一批人工智能（AI）领域的知名研究人员和领军人物用22个字表达了对人类未来的关注。该声明简短但非常明确：“降低人工智能灭绝的风险应该与流行病和核战争等其他社会层面的风险一起成为全球优先事项。”该声明由 Google DeepMind 首席执行官 Demis Hassabis、OpenAI 首席执行官 Sam Altman 以及 Geoffrey Hinton 和 Yoshua Bengio 签署，他们都是图灵奖获得者，因为他们在 AI 方面的工作。
中心 人工智能安全，一个非营利组织，总部设在 旧金山, 发表联合支持众多重要参与者的声明 在人工智能领域.该声明没有提供任何具体的解决方案，但它确实就需要更加关注人工智能安全提出了统一的看法。
人工智能作为全球威胁
这不是这些专家第一次鼓起勇气表达他们的担忧。他们中的一些人是今年一封公开信的签署者，他们在信中呼吁“暂停”六个月的开发 人工智能.这封信引起了批评，有人说它夸大了人工智能带来的风险，而其他人则同意这些风险，但不同意如何解决这些风险。
怀疑论者对这些预测表示怀疑，指出人工智能系统甚至无法处理相对简单的任务，例如驾驶汽车。尽管在这一研究领域付出了多年的努力并投入了数十亿美元，但全自动驾驶汽车仍远未成为现实。如果人工智能连这一项任务都做不到，那么它还有什么机会在未来几年实现所有其他人类成就呢？ 人工智能作为全球威胁？！
然而，倡导者和 人工智能怀疑论者 同意人工智能系统已经带来了一些威胁——从启用大规模监视到支持“预测性警务”算法以及制造虚假信息和虚假信息。
“有一个非常普遍的误解，即使在 AI 社区，也有 只是一些“黑观点””是为了 纽约时报 首席执行官 Dan Hendrycks 说 人工智能安全中心. “但实际上，很多人会私下表达对这些事情的担忧。”
AI 安全辩论复杂且充满争议，细节往往难以理解。基本假设是人工智能系统可以快速推进并超越安全机制。例如，大型语言模型的快速发展经常被引用为未来可能获得智能的标志。专家警告说，随着一定程度的复杂化，它可能会成为 无法控制他们的操作.
安全问题 人工智能对欧洲尤为重要，欧洲在其政策和立法中确立了可靠人工智能的道德准则。在欧洲，我们已经看到许多人工智能系统被以与我们的价值观相冲突的方式使用的例子——比如在公共场所使用自动面部识别算法。问题是监管是否足够有效，或者我们是否要考虑更严格的措施，比如暂时停止人工智能的发展。
这再次提醒我们必须小心，因为“通往地狱的道路是用善意铺成的”。我们必须记住，技术本身并无好坏之分——重要的是我们如何使用它。目前，人工智能似乎并没有威胁到我们今天，但重要的是要保持警惕并为所有可能发生的情况做好准备。毕竟，安全总比后悔好。
