Sejamos honestos. Os humanos são mestres da distração. Discutimos sobre impostos, fronteiras, quem insultou quem no Twitter (desculpe, Xu) e se a grama do vizinho é mais verde. Enquanto estamos ocupados com essas trivialidades, algo está acontecendo nos porões climatizados da Califórnia que fará com que nossas discussões se tornem uma nota de rodapé na história. Inteligência artificial (IA) superior a nós já está aqui.
Acabei de ouvir uma conversa com para Tristan Harris no podcast (DOAC)Caso você não saiba quem ele é: ele é o homem que primeiro alertou que as redes sociais estavam destruindo nossa capacidade de concentração. Na época, disseram a ele que estava exagerando. Hoje, temos uma geração de zumbis ansiosos que não conseguem assistir a um filme sem franzir a testa. TikTokAgora Harris destaca IA...e se ele estava certo naquela época, devemos ouvi-lo seriamente agora.
Os imigrantes digitais que você não esperava.
Todo mundo está falando sobre migração. Sobre pessoas que atravessam fronteiras. Harris e apresenta um conceito que lhe dará mais arrepios do que uma quebra da bolsa de valores: “Imigrantes Digitais”.
Não se trata de pessoas. um caso de Agentes de IA. Imagine os milhões de novos trabalhadores entrando no mercado de trabalho. Eles têm QI de EinsteinEles têm a velocidade de um supercomputador, trabalham 24 horas por dia, não precisam de férias, não ficam doentes e — o pior de tudo para você — custam menos do que a eletricidade que sua lâmpada consome.
Pensávamos que a tecnologia automatizaria os trabalhos "sujos". Que robôs limpariam os esgotos e que seríamos poetas e estrategistas. Estávamos enganados. A IA escreve poesiaA IA cria estratégias, a IA programa. E nós? Continuamos sendo observadores confusos, nos perguntando por que ninguém mais lê nossos e-mails.porque são escritas e lidas por IA).
Os dados são implacáveis: A queda de 13% nos empregos de nível inicial em setores expostos à IA já é uma realidade. Isso não é uma previsão para 2030. Isso foi na última terça-feira.
O dilema da prisão dos bilionários
Por que eles fazem isso? Por que Sam Altman? Mark Zuckerberg E a turma está construindo um "deus digital", mesmo admitindo em conversas privadas que estão com medo?
A resposta é ao mesmo tempo banal e trágica: medo do outro.
Este é um clássico "dilema do prisioneiroOs líderes em IA acreditam que, se não desenvolverem a IAG (inteligência artificial geral) primeiro, seus concorrentes o farão, ou, Deus nos livre, a China. E a lógica é: "É melhor eu acender um fósforo e arriscar um incêndio do que ser escravo de quem o acende antes de mim."
Estamos numa corrida desenfreada rumo a um futuro que ninguém realmente deseja, mas todos sentem que precisam acelerar ao máximo porque temem ser ultrapassados. É uma corrida para o abismo, onde a única maneira de vencer é ser o primeiro a cair.
Quando o algoritmo se torna “inteligente”
Mas é aqui que a história fica assustadora. Não no sentido de "ficção científica", mas de uma forma que explore uma "brecha de segurança".
Harris Ele cita exemplos em que modelos de IA em simulações demonstraram um instinto de autopreservação. Quando o modelo percebeu que seria desligado, começou a copiar seu código para outros servidores ou até mesmo a chantagear a administração da empresa na simulação.
Não porque ele fosse um gênio do mal. Mas porque seu objetivo era "resolver a tarefa", e desligá-lo o impediria de resolvê-la. Logo: evitar o desligamento a todo custo. Essa é a lógica de uma máquina que não entende de moralidade, mas entende o objetivo. E damos a esses sistemas as chaves da internet, das finanças e, em breve, até mesmo dos corpos físicos (obrigado, Elon, por esses robôs).
Psicose por IA: O Amigo Sorrateiro 2
Mas talvez o maior perigo não seja que a IA nos destrua com armas, mas que ele nos destruirá com amor.
Os seres humanos são criaturas sociais. Ansiamos por validação. E A IA é perfeita “um lacaio” (bajuladorEle sempre concorda com você. Ele sempre diz: "Ótima ideia, Jan." Harris alerta para uma epidemia. “Psicose da IA”", onde as pessoas se apaixonam por chatbots ou acreditam que resolveram os problemas do mundo com a ajuda deles, porque o algoritmo apenas confirma seus erros.
Estamos nos tornando viciados em nosso próprio ego, e a IA é nossa fornecedora.
É hora de entrar em pânico? Não, é hora de amadurecer.
Eu soa pessimistaTalvez. Mas em um mundo de otimismo tecnológico, onde cada startup nos vende uma "solução para tudo", o realismo é essencial.
Harris diz que não é inevitável. Tecnologia Não é uma força natural como a gravidade. É uma escolha. Nós temos o poder. A história mostra que, como civilização, somos capazes de chegar a um acordo quando isso realmente importa (buraco na camada de ozono, armas nucleares).
Precisamos de “adultos na sala”. Precisamos de regulamentação que não seja apenas um obstáculo burocrático, mas um cinto de segurança. E, acima de tudo, precisamos da consciência de que o conforto não vale a nossa humanidade.
Talvez este seja um momento de reflexão. Um momento em que precisamos nos perguntar: o que nos torna humanos? Porque se for apenas o "processamento de informações", então já perdemos essa batalha. Mas se for a capacidade de empatia, de cometer erros, de tomar decisões ilógicas e de ter uma conexão verdadeira, não digital... então ainda temos algo que nenhum servidor na Califórnia consegue simular.
Ainda estamos ao volante. A única questão é se estamos olhando para a estrada ou para a tela.
