CEO da OpenAI teme que desalinhamentos sociais façam IA dar terrivelmente errado

Sam Altman não está tranquilo sobre a tecnologia com a qual trabalha todos os dias. O CEO da OpenAI afirmou nesta terça-feira, 13, que os perigos que o mantém acordado à noite em relação à inteligência artificial (IA) são os "desalinhamentos sociais muito sutis" que podem fazer com que os sistemas causem estragos.

Falando na Cúpula Mundial de Governos em Dubai, nos Emirados Árabes, por meio de uma chamada de vídeo, Altman reiterou seu apelo para que um órgão como a Agência Internacional de Energia Atômica seja criado para supervisionar a IA, que provavelmente está avançando mais rápido do que o mundo espera.

"Há algumas coisas ali que são fáceis de imaginar e que realmente podem dar errado. E não estou muito interessado nos robôs assassinos que andam pelas ruas e que podem dar errado", disse Altman. "Estou muito mais interessado nos desalinhamentos sociais muito sutis em que temos esses sistemas na sociedade e, sem nenhuma má intenção específica, as coisas dão terrivelmente errado."

No entanto, Altman enfatizou que o setor de IA, como a OpenAI, não deveria estar no comando quando se trata de criar regulamentações que regem o setor.

"Ainda estamos em um estágio de muita discussão. Todos no mundo estão realizando uma conferência. Todo mundo tem uma ideia, um documento de política, e tudo bem", disse Altman. "Acho que ainda estamos em um momento em que o debate é necessário e saudável, mas, em algum momento nos próximos anos, acho que temos que avançar para um plano de ação com adesão real em todo o mundo."

O sucesso da OpenAI fez com que Altman se tornasse o rosto público da rápida comercialização da IA generativa - e dos temores sobre o que pode vir com a nova tecnologia.

Os Emirados Árabes Unidos, uma federação autocrática de sete xeques governados hereditariamente, apresentam sinais desse risco. O discurso continua sendo rigidamente controlado. Essas restrições afetam o fluxo de informações precisas - os mesmos detalhes em que os programas de IA, como o ChatGPT, se baseiam como sistemas de aprendizado de máquina para fornecer suas respostas aos usuários.

Os Emirados também contam com a empresa G42 de Abu Dhabi, supervisionada pelo poderoso conselheiro de segurança nacional do país. A G42 tem o que os especialistas sugerem ser o principal modelo de inteligência artificial em língua árabe do mundo. A empresa enfrentou alegações de espionagem por seus vínculos com um aplicativo de telefone celular identificado como spyware. Ela também enfrentou alegações de que poderia ter coletado material genético secretamente de americanos para o governo chinês.

A G42 disse que cortaria os laços com fornecedores chineses devido às preocupações americanas. No entanto, a discussão com Altman, moderada pelo Ministro de Estado para Inteligência Artificial dos Emirados Árabes Unidos, Omar al-Olama, não abordou nenhuma das preocupações locais.

Por sua vez, Altman disse que ficou animado ao ver que as escolas, onde os professores temiam que os alunos usassem a IA para escrever trabalhos, agora adotam a tecnologia como crucial para o futuro. Mas ele acrescentou que a IA ainda está em sua infância.

"Acho que o motivo é que a tecnologia atual que temos é como o primeiro celular com uma tela em preto e branco", disse Altman. "Portanto, vamos dar um tempo. Mas eu diria que acho que em alguns anos será muito melhor do que é agora. E, em uma década, deverá ser bastante notável."Fonte: Associated Press.