인공지능(AI) 분야의 저명한 연구자들과 주요 인물들이 인류의 미래에 대한 우려를 22단어로 표현했습니다. 성명서는 짧지만 매우 분명합니다. 성명서는 구글 딥마인드 CEO 데미스 하사비스(Demis Hassabis), 오픈AI CEO 샘 알트만(Sam Altman), AI 분야에서 튜링상을 수상한 제프리 힌튼(Geoffrey Hinton)과 요슈아 벤지오(Yoshua Bengio)가 서명했다.
센터 AI 보안,에 기반을 둔 비영리 단체 샌프란시스코, 많은 중요한 플레이어의 공동 지원 성명을 발표했습니다. AI 분야에서. 이 성명서는 구체적인 솔루션을 제공하지는 않지만 AI 보안에 더 중점을 둘 필요성에 대한 통합된 견해를 제시합니다.
글로벌 위협으로서의 AI
이러한 전문가들이 용기를 내어 우려를 표명한 것은 이번이 처음이 아닙니다. 그들 중 일부는 올해 개발에서 6개월의 "일시 중지"를 요구하는 공개 서한의 서명자였습니다. 일체 포함. 이 서한은 일부는 AI가 제기하는 위험을 과장한다고 말하는 반면 다른 일부는 위험에 동의하지만 해결 방법에 대해서는 동의하지 않는다는 비판을 받았습니다.
회의론자들은 AI 시스템이 자동차 운전과 같은 비교적 간단한 작업조차 처리할 수 없다고 지적하면서 이러한 예측을 의심합니다. 이 연구 분야에 대한 수년간의 노력과 수십억 달러의 투자에도 불구하고 완전 자율 주행 자동차는 여전히 현실과는 거리가 멀다. AI가 이 한 가지 작업도 마스터할 수 없다면 앞으로 몇 년 동안 인간의 다른 모든 업적을 달성할 기회가 있습니까? 인공지능이 세계적인 위협?!
그러나 옹호자들과 AI 회의론자 AI 시스템이 대량 감시를 가능하게 하는 것부터 "예측 치안 유지" 알고리즘을 강화하고 허위 정보 및 허위 정보 생성에 이르기까지 이미 몇 가지 위협을 제시한다는 데 동의합니다.
“AI 커뮤니티에서도 매우 흔한 오해가 있습니다. 몇 가지 '블랙 뷰',”는 뉴욕 타임즈 CEO인 Dan Hendrycks는 말했습니다. AI 보안 센터. "그러나 실제로 많은 사람들이 사적으로 이러한 일에 대해 우려를 제기할 것입니다."
AI 보안 논쟁은 복잡하고 논란이 많으며 세부 사항을 이해하기 어려운 경우가 많습니다. 기본 가정은 AI 시스템이 보안 메커니즘을 빠르게 발전시키고 능가할 수 있다는 것입니다. 예를 들어, 대규모 언어 모델의 급속한 발전은 미래의 지능 획득 가능성을 나타내는 것으로 종종 인용됩니다. 전문가들은 특정 수준의 정교함과 함께 작동을 제어할 수 없음.
보안 문제 AI는 정책 및 법률에서 신뢰할 수 있는 AI에 대한 윤리적 지침을 정박한 유럽에서 특히 중요합니다. 유럽에서는 이미 공공 장소에서 자동화된 안면 인식 알고리즘을 사용하는 것과 같이 우리의 가치와 충돌하는 방식으로 AI 시스템이 사용되는 많은 사례를 보았습니다. 규제가 실효성이 있는지, AI 개발을 잠정 중단하는 등 보다 강력한 대책을 고민해야 할지가 관건이다.
이것은 "지옥으로 가는 길은 선의로 포장되어 있다". 우리는 기술이 본질적으로 좋거나 나쁜 것이 아니라 기술을 사용하는 방식이 중요하다는 점을 기억해야 합니다. 현재로서는 AI가 오늘날 우리를 위협하는 것 같지는 않지만 경계를 유지하고 모든 만일의 사태에 대비하는 것이 중요합니다. 결국 후회하는 것보다 안전한 것이 낫습니다.
