Elon Musk e vários outros tecnólogos pedem uma pausa no treinamento de sistemas de IA

Um grupo de executivos e acadêmicos da indústria de tecnologia assinou uma carta aberta pedindo uma pausa de pelo menos seis meses em grandes experimentos abertos com inteligência artificial.

As empresas que pesquisam IA estão “presas em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”, diz a carta. “Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória.”

A carta adverte sobre cenários potencialmente apocalípticos.

“Devemos desenvolver mentes não humanas que possam eventualmente nos superar, ser mais espertas, obsoletas e nos substituir?” ele pergunta. “Devemos arriscar perder o controle de nossa civilização? Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos.”

O CEO da SpaceX e da Tesla, Elon Musk, o cofundador da Apple, Steve Wozniak, o cientista-chefe da IBM, Grady Booch, o CEO da estabilidade AI, Emad Mostaque, e o especialista em ética tecnológica, Tristan Harris, assinaram a carta, que foi divulgada na manhã de quarta-feira.

Os acadêmicos que o assinaram incluem Stuart Russell, que dirige o Centro de Inteligência Artificial Humana Compatível da Universidade da Califórnia em Berkeley, o historiador Yuval Noah Harari da Universidade Hebraica de Jerusalém e Sean O'Heigeartaigh, diretor executivo do Centro para o Estudo da Existencialidade da Universidade de Cambridge. Risco.

As preocupações com a IA avançada têm alimentado os autores de ficção científica há décadas, trazidas para o mainstream em filmes como a franquia “Exterminador do Futuro”, pesada em Armageddon, ou até mesmo o mais sutil “Her”. Agora, com o desenvolvimento da IA ​​moderna acelerando a um ritmo que chocou até mesmo aqueles próximos a ela (o CEO da OpenAI, Sam Altman, pediu repetidamente a regulamentação do setor, embora ele não estivesse entre a rodada inicial de signatários da carta), mais tecnólogos estão começando a alertar que a hora de agir é agora.

As ferramentas de inteligência artificial disponíveis ao público estão crescendo rapidamente em popularidade e capacidade. O ChatGPT, um chatbot incrivelmente hábil que usa a linguagem fluentemente, mas tem dificuldades com a precisão, tornou-se, segundo algumas métricas, o aplicativo de consumo de crescimento mais rápido da história em janeiro. Sua empresa controladora, a OpenAI, lançou uma nova versão de seu software de IA dois meses depois. E empresas de tecnologia como Google, Microsoft e Snapchat correram para incorporar essa tecnologia em sua plataforma.