A Samsung proibiu o uso de ferramentas de IA generativas como o ChatGPT em suas redes internas e dispositivos de propriedade da empresa por temer que o upload de informações confidenciais para essas plataformas represente um risco à segurança, Bloomberg News relatórios. A regra foi comunicada à equipe em um memorando que a descreve como uma restrição temporária enquanto a Samsung trabalha para “criar um ambiente seguro” para usar com segurança as ferramentas generativas de IA.
O maior fator de risco é provavelmente o chatbot ChatGPT da OpenAI, que se tornou extremamente popular não apenas como um brinquedo para entretenimento, mas também como uma ferramenta para ajudar em trabalhos sérios. As pessoas podem usar o sistema para resumir relatórios ou escrever respostas a e-mails – mas isso pode significar inserir informações confidenciais, às quais o OpenAI também pode ter acesso.
“Estamos restringindo temporariamente o uso de IA generativa”
Os riscos de privacidade envolvidos no uso do ChatGPT variam de acordo com a forma como o usuário acessa o serviço. Se uma empresa é a API do ChatGPT, as conversas com o chatbot não são visíveis para a equipe de suporte da OpenAI e não são usados para treinar os modelos da empresa. No entanto, isso não se aplica ao texto inserido na interface geral da Web usando suas configurações padrão.
Em um FAQ, a empresa diz que analisa as conversas que os usuários têm com o ChatGPT para melhorar seus sistemas e garantir que cumpra suas políticas e requisitos de segurança. Ele aconselha os usuários a não “compartilhar informações confidenciais em suas conversas” e observa que todas as conversas também podem ser usadas para treinar versões futuras do ChatGPT. A empresa lançou recentemente um recurso semelhante ao “modo anônimo” de um navegador. Reuters notes, que não salva históricos de chat e impede que sejam usados para treinamento.
A Samsung está evidentemente preocupada com os funcionários brincando com a ferramenta e não percebendo que é um risco potencial à segurança.
“A sede está revisando as medidas de segurança para criar um ambiente seguro para usar com segurança a IA generativa para aumentar a produtividade e a eficiência dos funcionários”, disse o memorando interno da empresa, relatórios Bloomberg. “No entanto, até que essas medidas sejam preparadas, estamos restringindo temporariamente o uso de IA generativa”. Além de restringir o uso de IA generativa em computadores, telefones e tablets da empresa, a Samsung também está pedindo aos funcionários que não façam upload de informações comerciais confidenciais por meio de suas máquinas pessoais.
“Pedimos que você siga diligentemente nossa diretriz de segurança e a falha em fazê-lo pode resultar em violação ou comprometimento das informações da empresa, resultando em ação disciplinar e incluindo rescisão do contrato de trabalho”, disse o memorando da Samsung. A gigante de tecnologia sul-coreana confirmou a autenticidade do memorando para Bloomberg. Um porta-voz não respondeu imediatamente a The Vergepedido de comentário.
A proibição ocorre depois que a Samsung descobriu que alguns de seus funcionários “vazaram o código-fonte interno ao carregá-lo no ChatGPT”, de acordo com Bloomberg. Há preocupações de que o upload de informações confidenciais da empresa para servidores externos operados por provedores de IA corre o risco de expô-las publicamente e limita a capacidade da Samsung de excluí-las após o fato. A notícia da política da Samsung chega pouco mais de um mês depois que o ChatGPT experimentou um bug que expôs temporariamente alguns históricos de bate-papo e, potencialmente, informações de pagamento para outros usuários do serviço.
A política da Samsung significa que ela se junta a uma série de outras empresas e instituições que colocaram limites no uso de ferramentas generativas de IA, embora os motivos exatos para as restrições variem. O JPMorgan restringiu seu uso devido a questões de conformidade, CNN relatórios, enquanto outros bancos como Bank of America, Citigroup, Deutsche Bank, Goldman Sachs e Wells Fargo também proibiram ou restringiram o uso de tais ferramentas. As escolas da cidade de Nova York baniram o ChatGPT por medo de trapaça e desinformação, enquanto a proteção de dados e as preocupações com a segurança infantil foram citadas como o motivo da proibição temporária do ChatGPT na Itália.
A Samsung supostamente tem planos para que seus funcionários usem ferramentas de IA eventualmente, mas parece que está esperando para desenvolver soluções internas. Bloomberg observa que está trabalhando em ferramentas para ajudar na tradução, resumo de documentos e desenvolvimento de software.
Quaisquer restrições de IA generativa não se aplicam a dispositivos vendidos a consumidores como laptops ou telefones.
0 comentários:
Postar um comentário