OpenAI nomeia o veterano professor de IA Zico Kolter para o conselho

A OpenAI nomeou Zico Kolter, professor e diretor do departamento de aprendizado de máquina da Universidade Carnegie Mellon, para seu conselho, informou a startup de IA apoiada pela Microsoft MSFT na quinta-feira.

O conselho de diretores do criador do ChatGPT passou por diversas mudanças em meio às crescentes preocupações sobre a segurança da inteligência artificial generativa, à medida que mais empresas correm para adotar a tecnologia em expansão.

Kolter, cujo trabalho se concentra predominantemente na segurança da IA, também se juntará ao comitê de segurança do conselho da OpenAI, juntamente com o presidente-executivo Sam Altman e os diretores Bret Taylor, Adam D'Angelo, Paul Nakasone e Nicole Seligman, disse a empresa.

O comité de segurança, criado (link) em maio, faz recomendações sobre decisões de segurança para todos os projetos da OpenAI.

Os chatbots da OpenAI com recursos de genAI, como envolvimento em conversas semelhantes às humanas e criação de imagens com base em requisições do usuário de texto, têm gerado preocupações de segurança à medida que os modelos de IA se tornam poderosos.

Kolter, ex-cientista-chefe de dados na C3.ai AI, atualmente atua como especialista-chefe na Bosch e consultor técnico-chefe na Gray Swan — uma startup especializada em segurança de IA.

Em 2023, Kolter contribuiu para o desenvolvimento de métodos para avaliar automaticamente a segurança de grandes modelos de linguagem, demonstrando o potencial de contornar as proteções de modelos existentes, de acordo com a postagem do blog da OpenAI.

A Microsoft desistiu (link) seu assento de observador do conselho na OpenAI em julho, em uma medida que visa aliviar as preocupações dos reguladores antitruste dos EUA e do Reino Unido sobre a extensão de seu controle sobre a startup em meio à crescente adoção do genAI.