A Apple restringiu os funcionários de usar ferramentas de IA, como o ChatGPT da OpenAI, por temer que informações confidenciais inseridas nesses sistemas vazem ou sejam coletadas.
De acordo com um relatório de Jornal de Wall Streetos funcionários da Apple também foram advertidos contra o uso do assistente de programação AI do GitHub, o Copilot. Bloomberg repórter Mark Gurman tuitou que o ChatGPT estava na lista de software restrito da Apple “por meses”.
A Apple tem boas razões para ser cautelosa. Por padrão, o OpenAI armazena todas as interações entre os usuários e o ChatGPT. Essas conversas são coletadas para treinar os sistemas da OpenAI e podem ser inspecionadas por moderadores por violação dos termos e serviços da empresa.
Em abril, o OpenAI lançou um recurso que permite aos usuários desativar o histórico de bate-papo (coincidentemente, não muito tempo depois que vários países da UE começaram a investigar a ferramenta para possíveis violações de privacidade), mas mesmo com essa configuração ativada, o OpenAI ainda retém as conversas por 30 dias com a opção para revisá-los “por abuso” antes de excluí-los permanentemente.
Dada a utilidade do ChatGPT para tarefas como melhorar o código e ideias de brainstorming, a Apple pode estar preocupada que seus funcionários insiram informações sobre projetos confidenciais no sistema. Essas informações podem ser vistas por um dos moderadores do OpenAI. A pesquisa mostra que também é possível extrair dados de treinamento de alguns modelos de linguagem usando sua interface de bate-papo, embora não haja evidências de que o próprio ChatGPT seja vulnerável a esses ataques.
A proibição da Apple, no entanto, é notável porque a OpenAI lançou um aplicativo iOS para ChatGPT esta semana. O aplicativo é gratuito, suporta entrada de voz e está disponível nos EUA. A OpenAI diz que lançará o aplicativo em outros países em breve, junto com uma versão para Android.
0 comentários:
Postar um comentário