Helen Toner, que integrou o conselho da OpenAI e votou pela demissão de Sam Altman, afirma que a segurança da inteligência artificial não pode depender da confiança em uma única pessoa. A executiva, diretora do Centro de Segurança e Tecnologias Emergentes (CSET) da Universidade de Georgetown, defende que precisamos de mecanismos muito mais robustos para garantir que empresas de IA priorizem a segurança sobre lucros.
Quem é Helen Toner e por que sua voz importa
Helen Toner dirige o CSET, uma organização com cerca de 50 pesquisadores criada em 2019 para ajudar formuladores de políticas a entender tecnologias emergentes, especialmente inteligência artificial. Ela não é uma acadêmica tradicional, mas uma especialista que transita entre o mundo da tecnologia e o governo.
Sua experiência no conselho da OpenAI a colocou no centro de um dos maiores dramas da indústria de IA. Quando o conselho tentou remover Sam Altman da presidência em 2023, Toner foi uma das quatro pessoas que votaram pela ação. O episódio, apelidado de “the blip” (o lapso), terminou com Altman retornando ao cargo, Toner saindo do conselho e uma reestruturação completa da empresa.
O fracasso do mecanismo de segurança na OpenAI
A OpenAI foi criada como uma organização sem fins lucrativos justamente para ter um conselho que garantisse que a empresa não abandonasse sua missão de desenvolver IA segura em favor de lucros e crescimento. Quando o conselho tentou usar esse poder, o sistema falhou completamente.
Segundo Toner, isso revela um problema fundamental: “Se nossas esperanças para o futuro dependem de qualquer pessoa ser confiável, estamos em big trouble” (em apuros). Ela argumenta que não podemos construir a segurança de tecnologias tão poderosas na confiança pessoal de líderes empresariais.
A lacuna entre o que o governo entende e o que a indústria faz
Existe uma percepção comum de que o governo americano está completamente atrasado em relação à indústria de IA e nunca conseguirá acompanhar. Toner reconhece que há uma lacuna real, mas a questão é mais nuançada.
Ela observa que muitos funcionários do Congresso e do poder executivo são mais informados do que parecem. O problema não é necessariamente falta de inteligência, mas falta de tempo e prioridade. Esses profissionais lidam com guerras, saúde pública e custo de vida simultaneamente.
Após o lançamento do ChatGPT em 2023, houve um momento de ativação política sobre IA. Embora não tenha resultado em legislação imediata, criou uma oportunidade real para que formuladores de políticas aprendessem sobre modelos de linguagem e aprendizado de máquina.
O que as empresas de IA realmente estão construindo
Toner chama atenção para uma diferença importante entre como a maioria das pessoas experimenta IA (através de ferramentas como Google AI Overviews ou ChatGPT gratuito) e o que as empresas líderes estão desenvolvendo nos bastidores.
Segundo ela, há um conceito normalizado nos círculos da indústria de que o objetivo é alcançar “superinteligência” — uma IA que superaria vastamente a inteligência humana. Essa ideia é tão comum em empresas como OpenAI, Anthropic, Google e Meta que muitos assumem como certo que é para onde estamos indo.
Toner enfatiza que há um histórico de pessoas subestimando o progresso da IA. Capacidades que eram consideradas impossíveis há cinco ou dez anos — como criatividade e raciocínio complexo — foram superadas por novos modelos. Isso torna ainda mais importante entender o que as empresas estão realmente tentando construir.
O papel do dinheiro na política de IA
A indústria de tecnologia investiu quantias enormes em campanhas políticas para bloquear regulamentações de IA. Mesmo assim, segundo Toner, esse dinheiro não foi tão eficaz quanto poderia parecer.
Nas eleições recentes, apesar dos gastos massivos em mensagens e pesquisa de oposição, candidatos que falavam sobre governança e segurança de IA não foram derrotados como a indústria esperava. Toner atribui isso a dois fatores: eleitores cada vez mais preocupados com IA e o fato de que a questão transcende divisões políticas tradicionais.
O que esperar nos próximos passos
Com novos membros do Congresso e do poder executivo, haverá uma nova onda de educação sobre tecnologia de IA. Toner reconhece que o sistema institucional americano enfrenta desafios, mas acredita que há apetite real entre formuladores de políticas por informações de qualidade e independentes.
A questão agora não é se o governo conseguirá entender a tecnologia, mas se as instituições conseguirão funcionar bem o suficiente para implementar regulamentações significativas. Isso dependerá de como os novos líderes políticos priorizam o tema nos próximos meses.
Fonte original: The Verge. Consulte a publicação original para contexto e atualizações.
