솔직히 말해서, 인간은 주의를 돌리는 데 능숙합니다. 세금, 국경, 트위터에서 누가 누구를 모욕했는지(죄송해요, 쉬 씨), 그리고 이웃집 잔디가 더 푸르냐는 것에 대해 논쟁합니다. 이런 사소한 일에 정신이 팔려 있는 동안, 캘리포니아의 에어컨이 빵빵한 지하실에서 우리의 논쟁을 역사의 각주로 만들 무언가가 일어나고 있습니다. 바로 우리보다 뛰어난 인공지능(AI)이 여기에 있습니다.
나는 방금 누구와의 대화를 들었습니다. 팟캐스트에서 Tristan Harris에게 (도악)그가 누군지 모르시겠다면, 그는 소셜 미디어가 우리의 집중력을 파괴하고 있다고 처음 경고한 사람입니다. 당시 그는 과장된 발언이라고 들었습니다. 오늘날 우리는 눈을 가늘게 뜨지 않고는 영화를 볼 수 없는 불안한 좀비 세대를 가지고 있습니다. Tik의 톡이제 Harris는 다음과 같이 지적합니다. 일체 포함...그리고 만약 그가 당시에 옳았다면, 우리는 지금 그의 말을 진지하게 들어야 할 것입니다.
당신이 예상하지 못했던 디지털 이민자들
모두가 이주에 대해 이야기하고 있습니다. 국경을 넘는 사람들에 대해서요. 해리스 그리고 주식 시장 붕괴보다 더 오싹함을 선사할 개념, 즉 "디지털 이민자"를 제시합니다.
사람에 관한 것이 아닙니다. 의 경우 AI 에이전트. 수백만 명의 새로운 근로자가 일자리 시장에 진입하는 것을 상상해 보세요. 그들은 아인슈타인의 IQ슈퍼컴퓨터의 속도에, 하루 24시간 일하고, 휴가도 필요 없고, 아프지도 않습니다. 그리고 가장 안타까운 점은 전구를 사용하는 전기보다 비용이 적게 든다는 것입니다.
우리는 기술이 "더러운" 일을 자동화할 거라고 생각했습니다. 로봇이 하수구를 청소하고 우리는 시인과 전략가가 될 거라고요. 하지만 우리는 틀렸습니다. AI가 시를 쓴다AI는 전략을 세우고, AI는 코드를 작성합니다. 그리고 우리는요? 우리는 여전히 혼란스러운 관찰자로 남아 있으며, 왜 더 이상 아무도 우리 이메일을 읽지 않는지 궁금해합니다.AI가 쓰고 읽기 때문에).
데이터는 끊임없이 제공됩니다. AI에 노출된 산업의 초급 일자리가 13% 감소한 것은 이미 현실입니다. 이는 2030년에 대한 예측이 아닙니다. 지난 화요일이었습니다.
억만장자들의 감옥 딜레마
왜 그들은 이런 짓을 할까요? 샘 알트먼은 왜 그럴까요? 마크 주커 버그 그리고 그 갱단은 비밀 대화에서 자신들이 두렵다고 인정했음에도 불구하고 "디지털 신"을 만들고 있는 건가요?
그 답은 평범하면서도 비극적입니다. 바로 타인에 대한 두려움입니다.
이것은 고전적인 "죄수의 딜레마AI 리더들은 자신들이 AGI(인공지능)를 먼저 개발하지 않으면 경쟁사나, 설마 중국이 먼저 개발할 것이라고 믿습니다. 그리고 그 논리는 이렇습니다. "나보다 먼저 성냥불을 켜준 사람의 노예가 되는 것보다 성냥불을 켜고 불을 피우는 것이 낫다."
우리는 아무도 진정으로 원하지 않는 미래를 향해 달려가고 있지만, 누군가 자신을 따라잡을까 봐 모두가 가속 페달을 밟아야 한다고 느낍니다. 이는 바닥을 향한 경쟁이며, 승리할 수 있는 유일한 방법은 심연에 가장 먼저 빠지는 것입니다.
알고리즘이 '스마트'해지면
하지만 여기서부터 이야기가 소름 돋습니다. "공상 과학 소설"하지만 "보안 허점"이 있는 방식입니다.
해리스 그는 시뮬레이션에서 AI 모델이 자기 보존 본능을 보인 사례를 제시합니다. 모델이 종료될 것을 알게 되면, 다른 서버에 코드를 복사하거나 심지어 시뮬레이션에서 회사 경영진을 협박하기까지 했습니다.
그가 사악한 천재였기 때문이 아니라, 그의 목표가 "과제를 해결하는 것"이었고, 시스템을 정지시키면 그 과제를 해결할 수 없었기 때문입니다. 따라서 무슨 수를 써서라도 시스템 정지를 막아야 합니다. 이는 도덕성은 모르지만 목표는 이해하는 기계의 논리입니다. 그리고 우리는 이러한 시스템에 인터넷, 금융, 그리고 머지않아 물리적인 신체까지 접근할 수 있는 열쇠를 제공합니다(로봇을 만들어 준 엘런에게 감사드립니다).
AI 사이코시스: 교활한 친구 2
하지만 아마도 가장 큰 위험은 AI가 무기로 우리를 파괴할 것이라는 것이 아닙니다. 그러나 그는 사랑으로 우리를 파괴할 것입니다.
인간은 사회적 동물입니다. 우리는 인정받고 싶어합니다. 그리고 AI는 완벽하다 "하수인"(아첨꾼). 그는 항상 당신의 의견에 동의합니다. 그는 항상 당신에게 "훌륭한 생각이야, 잰."이라고 말합니다. 해리스는 전염병에 대해 경고합니다. “AI 정신병사람들이 채팅봇에 반하거나 알고리즘이 자신의 실수만을 확인하기 때문에 채팅봇의 도움으로 세상의 문제를 해결했다고 믿는 경우가 있습니다.
우리는 우리 자신의 자아에 중독되어 가고 있으며, AI는 우리의 딜러입니다.
당황할 때가 된 걸까? 아니, 철들어야 할 때다.
나는 소리 비관적인? 그럴 수도 있겠네요. 하지만 모든 스타트업이 "모든 것에 대한 해결책"을 제시하는 기술 낙관주의의 세상에서는 현실주의가 필수적입니다.
해리스는 그것이 불가피한 것은 아니라고 말한다. 기술 중력처럼 자연적인 힘이 아닙니다. 선택입니다. 우리에게는 힘이 있습니다. 역사는 문명으로서 우리가 정말 중요한 문제(오존층 파괴, 핵무기)에서 합의에 도달할 수 있음을 보여줍니다.
우리에게는 "어른들이 함께하는 자리"가 필요합니다. 단순한 관료적 장애물이 아닌 안전벨트 역할을 하는 규제가 필요합니다. 그리고 무엇보다도, 편안함이 우리의 인간성을 해칠 수 없다는 인식이 필요합니다.
어쩌면 지금이 냉정한 순간일지도 모릅니다. 스스로에게 질문해야 할 순간입니다. 우리를 인간답게 만드는 것은 무엇일까요? 만약 그것이 단순히 "정보 처리"라면, 우리는 이미 그 싸움에서 졌기 때문입니다. 하지만 그것이 공감, 실수, 비논리적인 결정, 그리고 진정한 비디지털적 연결의 능력이라면… 우리는 캘리포니아의 어떤 서버도 시뮬레이션할 수 없는 무언가를 여전히 가지고 있습니다.
우리는 아직도 운전대를 잡고 있어요. 유일한 질문은 우리가 도로를 보고 있는지, 아니면 화면을 보고 있는지입니다.
