Um grupo de pesquisadores renomados e figuras de destaque no campo da inteligência artificial (IA) expressaram sua preocupação com o futuro da humanidade em 22 palavras. A declaração é curta, mas muito clara: “Reduzir o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em nível social, como pandemias e guerra nuclear”. A declaração foi assinada pelo CEO do Google DeepMind, Demis Hassabis, pelo CEO da OpenAI, Sam Altman, e Geoffrey Hinton e Yoshua Bengio, ambos vencedores do Prêmio Turing por seu trabalho em IA.
centro de segurança de IA, uma organização sem fins lucrativos sediada em São Francisco, divulgou a declaração em apoio conjunto de muitos jogadores importantes em na área de IA. A declaração não oferece nenhuma solução concreta, mas apresenta uma visão unificada sobre a necessidade de maior foco na segurança da IA.
IA como uma ameaça global
Esta não é a primeira vez que esses especialistas têm coragem de expressar sua preocupação. Alguns deles assinaram uma carta aberta neste ano, na qual pedem uma "pausa" de seis meses no desenvolvimento IA. A carta atraiu críticas, com alguns dizendo que exagera os riscos representados pela IA, enquanto outros concordam com os riscos, mas não com como abordá-los.
Os céticos duvidam dessas previsões, apontando que os sistemas de IA não conseguem lidar nem mesmo com tarefas relativamente simples, como dirigir um carro. Apesar de anos de esforço e bilhões de investimentos nessa área de pesquisa, os carros totalmente autônomos ainda estão longe da realidade. Se a IA não consegue dominar nem mesmo essa tarefa, que chance ela tem de alcançar todas as outras conquistas humanas nos próximos anos? IA como uma ameaça global?!
No entanto, os defensores e céticos da IA concordam que os sistemas de IA já apresentam algumas ameaças - desde permitir a vigilância em massa até alimentar algoritmos de "policiamento preditivo" e criar desinformação e informações falsas.
“Existe um equívoco muito comum, mesmo na comunidade de IA, de que existe apenas algumas 'vistas negras'," é para O jornal New York Times disse Dan Hendrycks, CEO Centros de segurança de IA. "Mas, na realidade, muitas pessoas levantariam preocupações sobre essas coisas em particular."
O debate sobre segurança da IA é complexo e controverso, e os detalhes costumam ser difíceis de entender. A suposição básica é que os sistemas de IA podem avançar rapidamente e superar os mecanismos de segurança. Como exemplo, o rápido progresso de grandes modelos de linguagem é frequentemente citado como indicativo da possível futura aquisição de inteligência. Especialistas alertam que, com certo nível de sofisticação, pode se tornar impossível controlar sua operação.
Uma questão de segurança A IA é particularmente importante para a Europa, que ancorou diretrizes éticas para uma IA confiável em sua política e legislação. Na Europa, já vimos muitos exemplos de sistemas de IA sendo usados de forma conflitante com nossos valores – como o uso de algoritmos de reconhecimento facial automatizado em espaços públicos. A questão é se a regulamentação é eficaz o suficiente ou se teremos que pensar em medidas mais rígidas, como suspender temporariamente o desenvolvimento da IA.
Este é outro lembrete de que devemos ter cuidado porque "a estrada para o inferno é pavimentada com boas intenções". Devemos lembrar que a tecnologia não é inerentemente boa ou ruim – o que importa é como a usamos. Por enquanto, a IA não parece nos ameaçar hoje, mas é importante permanecermos vigilantes e preparados para todas as eventualidades. Afinal, é melhor prevenir do que remediar.
