O CEO da OpenAI confirma que a empresa não está treinando GPT-5 e 'não o fará por algum tempo'

Em uma discussão sobre ameaças representadas por sistemas de IA, Sam Altman, CEO e cofundador da OpenAI, confirmou que a empresa não está atualmente treinando GPT-5, o suposto sucessor de seu modelo de linguagem de IA GPT-4, lançado em março.

Falando em um evento no MIT, Altman foi questionado sobre uma carta aberta recente que circulou entre o mundo da tecnologia, solicitando que laboratórios como o OpenAI interrompessem o desenvolvimento de sistemas de IA “mais poderosos que o GPT-4”. A carta destacou preocupações sobre a segurança de sistemas futuros, mas foi criticada por muitos na indústria, incluindo vários signatários. Os especialistas discordam sobre a natureza da ameaça representada pela IA (é existencial ou mais mundana?), bem como sobre como a indústria pode “pausar” o desenvolvimento em primeiro lugar.

No MIT, Altman disse que a carta estava “perdendo a maior parte das nuances técnicas sobre onde precisamos da pausa” e observou que uma versão anterior afirmava que o OpenAI está atualmente treinando GPT-5. “Não estamos e não o faremos por algum tempo”, disse Altman. “Então, nesse sentido, foi meio bobo.”

No entanto, só porque o OpenAI não está funcionando no GPT-5, não significa que não está expandindo os recursos do GPT-4 – ou, como Altman fez questão de enfatizar, considerando as implicações de segurança de tal trabalho. “Estamos fazendo outras coisas além do GPT-4 que acho que têm todos os tipos de problemas de segurança que são importantes de abordar e foram totalmente deixados de fora da carta”, disse ele.

Você pode assistir a um vídeo da troca abaixo:

Os comentários de Altman são interessantes – embora não necessariamente por causa do que revelam sobre os planos futuros da OpenAI. Em vez disso, eles destacam um desafio significativo no debate sobre a segurança da IA: a dificuldade de medir e acompanhar o progresso. Altman pode dizer que a OpenAI não está atualmente treinando GPT-5, mas essa não é uma afirmação particularmente significativa.

Parte da confusão pode ser atribuída ao que chamo de falácia dos números de versão: a ideia de que as atualizações tecnológicas numeradas refletem melhorias definidas e lineares na capacidade. É um equívoco que tem sido alimentado no mundo da tecnologia de consumo há anos, onde os números atribuídos a novos telefones ou sistemas operacionais aspiram ao rigor do controle de versão, mas são apenas ferramentas de marketing. “Bem, é claro que o iPhone 35 é melhor que o iPhone 34”, segue a lógica desse sistema. “O número é maior, ipso facto, o telefone é melhor.”

Devido à sobreposição entre os mundos da tecnologia de consumo e da inteligência artificial, essa mesma lógica agora é frequentemente aplicada a sistemas como os modelos de linguagem da OpenAI. Isso é verdade não apenas para os vendedores ambulantes que postam tópicos hiperbólicos 🤯 no Twitter 🤯 prevendo que a IA superinteligente estará aqui em questão de anos porque os números estão cada vez maiores mas também de comentaristas mais informados e sofisticados. Como muitas afirmações feitas sobre a superinteligência da IA ​​são essencialmente infalsificáveis, esses indivíduos contam com uma retórica semelhante para expressar seu ponto de vista. Eles desenham gráficos vagos com eixos rotulados como “progresso” e “tempo”, traçam uma linha subindo e indo para a direita e apresentam isso acriticamente como evidência.

Isso não é para descartar os temores sobre a segurança da IA ​​ou ignorar o fato de que esses sistemas estão melhorando rapidamente e não estão totalmente sob nosso controle. Mas é para dizer que existem bons e maus argumentos, e só porque demos um número a alguma coisa – seja um novo telefone ou o conceito de inteligência – não significa que temos a medida completa disso.

Em vez disso, acho que o foco dessas discussões deveria ser as capacidades: demonstrações do que esses sistemas podem ou não fazer e previsões de como isso pode mudar com o tempo.

É por isso que a confirmação de Altman de que a OpenAI não está atualmente desenvolvendo o GPT-5 não servirá de consolo para as pessoas preocupadas com a segurança da IA. A empresa ainda está expandindo o potencial do GPT-4 (conectando-o à internet, por exemplo), e outras empresas do setor estão construindo ferramentas igualmente ambiciosas, permitindo que os sistemas de IA atuem em nome dos usuários. Há também todo tipo de trabalho que sem dúvida está sendo feito para otimizar o GPT-4, e o OpenAI pode lançar o GPT-4.5 (como fez o GPT-3.5) primeiro – outra maneira pela qual os números da versão podem enganar.

Mesmo que os governos do mundo fossem de alguma forma capazes de proibir novo desenvolvimentos de IA, é claro que a sociedade está ocupada com os sistemas atualmente disponíveis. Claro, o GPT-5 ainda não está chegando, mas isso importa quando o GPT-4 ainda não é totalmente compreendido?