A OpenAI decidiu suspender um desenvolvedor após ele criar um bot baseado no ChatGPT para se passar por Dean Phillips, candidato presidencial nos EUA. De acordo com The Washington Post, o chatbot, cadastrado pela startup de IA Delphi, tinha o intuito de reforçar a campanha de Phillips interagindo com usuários.
“Chatbots que se passam por candidatos” são exatamente o exemplo que a OpenAI ofereceu sobre o que não será permitido durante as eleições de 2024 nos EUA. A empresa publicou atualização de suas políticas na última segunda-feira, 15 de janeiro, desautorizando o uso das ferramentas de IA da startup para campanhas políticas.
Após a denúncia do Washington Post, a Delphi manteve o app funcionando sem a base do ChatGPT, apenas com outras ferramentas de código aberto, mas a OpenAI apontou o desenvolvimento do programa como irregular, por usar a IA da companhia e infringir suas regras.
À medida que nos preparamos para as eleições em 2024 nas maiores democracias do mundo, a nossa abordagem é continuar o nosso trabalho de segurança da plataforma.
Queremos ter certeza de que nossos sistemas de IA sejam construídos, implantados e usados com segurança. Como qualquer nova tecnologia, essas ferramentas trazem benefícios e desafios. Eles também não têm precedentes e continuaremos evoluindo nossa abordagem à medida que aprendermos mais sobre como nossas ferramentas são usadas.
OpenAI em comunicado sobre a atualização de suas políticas.
Segundo o Engadget, o site já está fora do ar por “dificuldades técnicas”. O portal apresenta a seguinte mensagem: “Desculpas, DeanBot está ausente em campanha agora!”.
Nem a OpenAI, nem a Delphi se pronunciaram oficialmente sobre o caso.
Fonte: Olhar Digital
