Jan Leike liderou time de treinamento IA, reclamou de desgaste e usou termos: superalinhamento, alinhamento, conselho, empresa, equipe, superalinhamento, processos, segurança.
Ao sair da porta de saída da OpenAI — empresa de tecnologia responsável pelo ChatGPT —, o executivo Jan Leike destaca preocupações relacionadas à empresa e à segurança da tecnologia. Leike, que deixou a liderança da equipe de ‘superalinhamento’ da OpenAI, expressou em um post no X que discordava das prioridades do conselho da companhia e que havia atingido um ‘ponto de ruptura’. ‘Alinhamento’ ou ‘superalinhamento’ são termos comuns no campo da inteligência artificial (IA) para descrever o processo de treinamento de programas para atender às necessidades humanas. Leike ingressou na OpenAI em 2021 e no ano passado foi anunciado que ele lideraria a equipe de superalinhamento, com foco em impulsionar ‘avanços científicos e técnicos para guiar e controlar sistemas de IA muito mais inteligentes do que nós’.
No entanto, o executivo mencionou na sexta-feira (17) que nos últimos meses a operação estava se deteriorando e que a equipe estava enfrentando desafios. ‘Estava se tornando cada vez mais complicado conduzir essa pesquisa crucial’, afirmou ele no X, acrescentando que quinta-feira (16) foi seu último dia na startup. ‘Desenvolver máquinas mais inteligentes que os humanos é uma tarefa desafiadora’, ressaltou Leike, destacando a complexidade e os riscos inerentes a esse processo inapplicável.
OpenAI: Mudanças na Liderança e Processos de Segurança
Nos últimos anos, a cultura e os processos de segurança na OpenAI ficaram em segundo plano em relação aos produtos brilhantes. Ontem marcou o último dia de Jan Leike como chefe de alinhamento, líder de superalinhamento e executivo na OpenAI. Sua saída ocorre em meio a uma mudança mais ampla na liderança da empresa.
A renúncia de Leike segue a saída do cofundador e cientista-chefe da empresa, Ilya Sutskever, que deixou a empresa na terça-feira (14). Sutskever desempenhou um papel crucial na liderança da equipe de superalinhamento. Ele mencionou estar envolvido em um novo projeto significativo, cujos detalhes serão compartilhados no momento apropriado.
Artigos Relacionados
A saída de Sutskever levanta questões sobre o conselho da OpenAI em relação ao CEO, Sam Altman. No ano passado, Sutskever votou pela destituição de Altman, desencadeando uma série de eventos que culminaram na rápida reversão da decisão e retorno de Altman ao cargo, com o apoio da Microsoft.
A CNN descobriu que Sutskever expressou preocupações sobre a abordagem de Altman em relação à IA, alegando pressão excessiva para avançar rápido demais. Após a demissão de Altman, Sutskever surpreendeu ao pedir a renúncia de todo o conselho e o retorno do CEO.
A disponibilização do modelo de IA mais poderoso da OpenAI, o GPT-4o, gratuitamente ao público através do ChatGPT, coincide com as mudanças na liderança da empresa. Esta tecnologia promete transformar o ChatGPT em um assistente pessoal digital capaz de manter conversas em tempo real.
Leike expressou preocupações sobre a preparação para as próximas gerações de modelos de IA, destacando a importância da segurança, monitoramento, preparação, proteção, robustez adversária, superalinhamento e outros tópicos relacionados. A OpenAI reiterou seu compromisso com a segurança em resposta às declarações de Leike.
A contribuição de Leike para a pesquisa de alinhamento e cultura de segurança na OpenAI foi reconhecida e apreciada. A empresa enfrenta desafios contínuos em relação ao desenvolvimento e lançamento de tecnologias de IA, enquanto busca manter o equilíbrio entre inovação e segurança.
Fonte: © CNN Brasil
Comentários sobre este artigo