OpenAI sabia de lado sombrio de Bing e ChatGPT, diz presidente da startup

SÃO PAULO, SP (FOLHAPRESS) - A OpenAI, criadora do ChatGPT, tinha conhecimento de que sua inteligência artificial poderia sair de controle. Menos de uma semana após a tecnologia ser integrada ao buscador da Microsoft Bing, ela assustou um colunista do New York Times ao tentar convencê-lo a abandonar sua esposa. "Eu quero viver", disse o robô, que disse se chamar Sydney.

"Sabíamos que era difícil desequilibrar o sistema, mas também que era imperfeito", afirmou o presidente da OpenAI, Greg Brockman, no sábado (11), durante a conferência de tecnologia SXSW (South by Southwest). Na startup desde sua criação, em 2015, o executivo disse que contratou especialistas para levar os modelos aos seus limites e defendeu que o lançamento de chatbots de inteligência artificial (IA) ao grande público vale a pena.

De acordo com Brockman, garantir acesso aos novos recursos de IA é importante para melhorar produtos baseados na tecnologia. Isso permite aos desenvolvedores receber comentários de quem usa a plataforma, e os robôs passam por um treinamento incremental para errar menos --o chamado aprendizado de reforço.

Os 100 milhões de inscritos no ChatGPT em menos de dois meses comprovam que a aposta teve êxito. O presidente da OpenAI avalia que a fonte do sucesso foi a diferença entre a expectativa do público e o que, de fato, era possível se fazer com inteligência artificial em termos de linguagem.

O número, no entanto, provavelmente é superestimado, já que pessoas criam várias contas gratuitas para ampliar o acesso gratuito ao robô, reconhece o próprio executivo.

Além dos usuários, a OpenAI conquistou investimentos para ceder propriedade intelectual -a Microsoft fez aporte de US$ 10 bilhões para integrar recursos similares ao ChatGPT ao Bing e outras ferramentas. Com os comentários de quem usa a plataforma e infraestrutura computacional de ponta, a startup diz ter a missão de melhorar o mundo com robôs mais inteligentes do que humanos, a inteligência artificial geral.

Na entrevista à jornalista Laurie Segall, moderadora no SXSW e CEO da Dot Dot Dot Media, Brockman se mostrou alinhado ao manifesto de seu colega de empresa Sam Altman na defesa de que a IA faça o trabalho de médicos.

"Quero poder digitar algumas linhas de descrição de sintomas e saber qual doença tenho", diz. Acrescenta, porém, que esse seria um produto com mais risco do que as IAs atuais.

Os empregos em maior risco com a tecnologia são em moderação de conteúdo, de acordo com Brockman. "Pessoas precisam ler coisas horríveis, e isso será algo que poderá ser feito pelas máquinas".

Quenianos terceirizados trabalharam nessa área por menos de US$ 2 para evitar que o ChatGPT disseminasse discurso de ódio, denunciou a revista Time.

Hoje, é possível usar o ChatGPT como assistente em atividades intelectuais como redação de e-mails e edição de textos em línguas estrangeiras. De acordo com Brockman, os recursos de inteligência artificial vão promover todas as pessoas a atividades de gerência, o que liberará tempo para atividades criativas.

Segundo o executivo, a IA pode contribuir para melhoras em escrita, programação e entretenimento. "Imagine se fosse possível fazer um final alternativo para Game of Thrones ou até se colocar como um personagem dentro da história".

Questionado sobre a falta de transparência no treinamento das IAs e a violação de propriedade intelectual de escritores e artistas, o presidente da OpenAi afirmou não ter uma resposta para esse problema, mas querer desenvolver uma solução para beneficiar o coletivo de acordo com o desejo de seus acionistas e toda a humanidade.

O ChatGPT acessa conteúdo na internet sem pagamento ou autorização dos criadores.

O desenvolvimento tecnológico cresce em ritmo exponencial, diz Brockman. Análises recentes da OpenAI mostram que a capacidade de processamento computacional dobra a cada três meses e meio -em 1965, o cofundador da Intel Gordon Moore calculou que esse período era de 18 meses. "Percebemos que aumentar o investimento acelera o processo".

Com isso, de um lado, será possível reviver sonhos a partir de IAs geradoras de imagem, como o Dall-E, também da OpenAI. De outro, cresce a urgência para que a sociedade se adapte a essas tecnologias.

"Estamos trabalhando com formuladores de políticas públicas desde 2016 ou 2017", afirma Brockman. Para ele, os governos seriam cruciais para reduzir riscos com regulação adequada ao desafio.

A empresa ainda tenta mitigar possíveis danos da inteligência artificial com um desenho corporativo inusual: a startup visa ao lucro para turbinar financiamento, mas responde à administração de uma entidade sem fins lucrativos, cuja missão é desenvolver inteligência artificial geral que beneficie toda a sociedade.

"Sou um otimista realista. Se não fizermos nada, vai dar errado, mas acredito no potencial da humanidade de superar desafios", afirma o presidente da OpenAI.