IA generativa? Com certeza!

Foi uma notícia desagradável para a gestão do grupo de eletrônicos Samsung. Na primavera de 2023, notas de reuniões internas e dados sobre o desempenho das instalações de produção apareceram repentinamente na internet. Os culpados não eram hackers, mas os próprios funcionários da empresa que haviam utilizado a IA generativa. Um funcionário, por exemplo, usou o ChatGPT para transformar suas anotações de reunião em um documento final sem perceber que a versão gratuita do assistente de IA estava salvando todas as informações das solicitações dos usuários – e usando-as para expandir seu conhecimento.

Esse é um exemplo que demonstra que a inteligência generativa também apresenta riscos, como a falta de conscientização dos funcionários sobre as lacunas de segurança, a ausência de diretrizes da empresa ou novas oportunidades para ataques de hackers. Em uma pesquisa global realizada pela consultoria McKinsey, 53% de todos os participantes que já haviam trabalhado com IA generativa consideraram a cibersegurança o maior risco dessa nova tecnologia.

Ao mesmo tempo, a IA generativa oferece às empresas um enorme potencial para aumentar sua eficiência e capacidade de inovação. O Grupo Otto, portanto, buscava uma forma de explorar as oportunidades oferecidas pela tecnologia, ao mesmo tempo em que limitava seus riscos. Sob o nome ogGPT, a empresa-mãe da EOS desenvolveu sua própria IA generativa para os 26.000 funcionários do Grupo. “Queríamos criar uma solução adaptada às necessidades do nosso Grupo, com foco em segurança e proteção de dados”, diz Anja Körber, Head of Artificial Intelligence & Automation na Otto Group IT. A versão corporativa paga do ChatGPT estava fora de questão, mesmo que esse assistente de IA não armazene as informações dos prompts. “Os servidores estão localizados nos EUA,” explica Anja. “Isso significa que, em caso de dúvida, funcionários locais, por exemplo, do suporte, poderiam ter acesso aos dados. E os padrões europeus, como o GDPR, não se aplicam nos EUA.”

A pesquisa da consultoria McKinsey também revela claramente a falta de diretrizes para o uso de IA. O Grupo Otto já abordou essa questão, também em nome de suas afiliadas. Durante dois meses, os funcionários do Grupo Otto não apenas desenvolveram uma diretriz para IA, mas também os blocos individuais para o ogGPT em vários projetos e hackathons. Isso resultou em uma estrutura básica que atualiza seu conhecimento – inclusive com dados da internet – mas que ainda é segura, explica Anja: “O ogGPT esquece os comandos. Temos total controle sobre os dados.”

No entanto, o diferencial do ogGPT não é apenas a segurança. “Queríamos funções que atendam às nossas necessidades”, diz Anja. Por exemplo, o assistente de IA pode resumir o conteúdo de uma longa troca de e-mails. O ogGPT também já está sendo usado para escrever um boletim informativo: enquanto anteriormente os leitores do boletim recebiam apenas manchetes com links para conteúdos adicionais, agora eles encontram resumos compactos do conteúdo. Uma melhoria significativa que teria sido muito demorada para fazer manualmente.

Uma solução interna também reduz o receio dos colaboradores que precisam se adaptar à integração da IA generativa no seu trabalho diário, acrescenta Anja: “Há especialistas internos e uma comunidade dedicada. Isso dá muita segurança às pessoas: se eu não conseguir encontrar uma solução, posso pedir ajuda a um colega.”

Uma IA generativa interna também é útil para a afiliada da Otto, a EOS, afirma Janusch Skubatz, Chief Information Security Officer do Grupo EOS. Projetos internos iniciais já estão em andamento. “Acredito que também usaremos o ogGPT no futuro,” diz ele, “mas os obstáculos de proteção de dados em gestão de recebíveis são particularmente elevados. Quando adquirimos créditos inadimplentes, por exemplo, temos acesso a dados que são especialmente sensíveis.” Por isso, a EOS está sujeita a regras mais rigorosas do que outras empresas e frequentemente a requisitos contratuais de parceiros, diz Janusch: “Portanto, precisamos verificar cuidadosamente se a tecnologia precisa atender a requisitos adicionais.”

No entanto, Janusch acredita que o fator mais decisivo é a interação regular com a IA generativa: “A experiência é uma condição essencial para desenvolver um entendimento da tecnologia e da qualidade dos resultados.” Dessa forma, é possível evitar situações de risco, como as ocorridas com a Samsung, e explorar o imenso potencial da tecnologia.