A OpenAI anunciou que agora está permitindo que desenvolvedores terceirizados integrem o ChatGPT em seus aplicativos e serviços por meio de uma API e que isso será significativamente mais barato do que usar seus modelos de linguagem existentes. A empresa está disponibilizando o Whisper, seu modelo de conversão de voz em texto com inteligência artificial, para uso por meio de uma API e fazendo algumas alterações importantes nos termos de serviço do desenvolvedor.
A OpenAI diz que sua API ChatGPT pode ser usada para mais do que apenas criar uma interface de bate-papo com inteligência artificial – embora também destaque várias empresas que a usam para esse fim, incluindo o recurso My AI da Snap, anunciado no início desta semana. A empresa diz que sua nova família de modelos, chamada gpt-3.5-turbo, é o “melhor modelo para muitos casos de uso não relacionados ao chat”.
Vale a pena notar que o modelo provavelmente não é o mesmo que o Bing está usando, que a Microsoft chamou de “novo modelo de linguagem OpenAI de última geração” que é “ainda mais rápido, mais preciso e mais capaz” do que ChatGPT e GPT- 3.5. No entanto, considerando quanto dinheiro a empresa investiu no OpenAI, não é surpresa que ela tenha acesso a tecnologias não disponíveis para o desenvolvedor médio. A Microsoft também está usando uma boa dose de sua própria tecnologia para o Bing.
A OpenAI está oferecendo 1.000 tokens por US$ 0,002 e diz que é “10 vezes mais barato que nossos modelos GPT-3.5 existentes”, em parte graças a “uma série de otimizações em todo o sistema”. Embora 1.000 pareça muito, vale a pena notar que enviar um trecho de texto para a API responder pode custar vários tokens. (“Tokens” são os blocos de texto nos quais o sistema divide frases e palavras para prever qual texto deve ser exibido a seguir.)
De acordo com a documentação da OpenAI, “ChatGPT é ótimo!” leva seis tokens – sua API divide em “Chat”, “G”, “PT”, “é”, “ótimo” e “!”. A empresa fornece uma ferramenta para verificar quantos tokens serão necessários para interpretar uma string de texto e diz que uma regra geral é que “um token geralmente corresponde a ~ 4 caracteres” em inglês.
A empresa diz que os desenvolvedores também poderão obter uma instância dedicada do ChatGPT se estiverem executando uma quantidade monstruosa de dados por meio da API. Sua postagem diz que fazer isso lhe dará mais controle sobre qual modelo você está usando, quanto tempo você deseja que demore para responder às solicitações e quanto tempo as conversas com o bot podem durar.
Embora o ChatGPT provavelmente atraia mais atenção, o OpenAI também anunciou outra nova API para o Whisper, seu modelo de fala para texto. A empresa diz que você pode usá-lo para transcrever ou traduzir áudio a um custo de US$ 0,006 por minuto. Tecnicamente, o modelo Whisper é de código aberto, então você pode executá-lo em seu próprio hardware sem pagar nada. No entanto, o OpenAI provavelmente tem acesso a um hardware mais poderoso, portanto, se você estiver procurando uma resposta rápida ou precisar fazer a transcrição em dispositivos de baixa potência, como telefones, usar a API pode ser o caminho a seguir.
A OpenAI também está anunciando algumas mudanças de política que, segundo ela, são baseadas no feedback dos desenvolvedores. Um grande problema é dizer que não usará mais os dados enviados por meio da API para treinar seus modelos, a menos que os clientes explicitamente aprovem esse uso.
Em outras palavras, está passando de um sistema opt-out para um sistema opt-in. Essa mudança pode ajudar a aliviar algumas preocupações sobre colocar informações proprietárias no bot, já que algumas empresas impediram os funcionários de usar a tecnologia totalmente. Se estiver aprendendo com a entrada do usuário, seria uma má ideia inserir segredos comerciais, pois sempre há a possibilidade de que ele possa enviar esses dados para outra pessoa.
A empresa também diz que está trabalhando para melhorar seu tempo de atividade e que “a principal prioridade de sua equipe de engenharia agora é a estabilidade dos casos de uso de produção”.
Embora vários desenvolvedores tenham apresentado soluções alternativas para incluir serviços de bate-papo em seus aplicativos – inclusive usando a API GPT regular do OpenAI, que está disponível há algum tempo – a introdução de uma API oficial do ChatGPT parece que pode ser o momento em que as comportas se abrem. Embora existam muitas empresas trabalhando em seus próprios modelos de chatbot de IA, esse tipo de coisa está completamente fora do alcance da maioria dos desenvolvedores. Agora, eles poderão usar apenas a tecnologia da OpenAI.
0 comentários:
Postar um comentário