Desafios na implementação de IA
Executivos da Hitachi Vantara identificam três pilares críticos para a adoção da inteligência artificial (IA) nas empresas: estruturação de dados, governança e infraestrutura. Conforme aponta um relatório global divulgado pela empresa, desde o auge do hype com a chegada da IA generativa, a cibersegurança tem sido fragilizada pela ausência desses elementos essenciais. Essa vulnerabilidade tende a se agravar com a chegada dos agentes de IA, que trazem novos riscos ao ambiente corporativo.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, explica que agentes de IA podem executar ações com consequências inesperadas se não forem monitorados constantemente. Ele ressalta ainda o mal-entendido generalizado sobre o funcionamento dessas ferramentas, o que potencializa os riscos.
Uso acelerado e riscos de vulnerabilidades
Segundo Gibson, muitas empresas têm confiado excessivamente nos resultados gerados pela IA e acelerado a implementação de soluções sem a devida cautela. Isso cria brechas que podem ser exploradas por ameaças cibernéticas. O relatório revela que 91% dos agentes de IA ainda apresentam alucinações, ou seja, produzem respostas incorretas ou imprecisas. Além disso, 76% dos dados corporativos são não estruturados, justamente o tipo mais utilizado pelos aplicativos de IA.
No Brasil, o cenário é um pouco diferente. O país passa por uma digitalização acelerada, frequentemente apoiada em sistemas legados e ambientes heterogêneos. Os executivos de tecnologia nacionais são vistos como mais conservadores pela Hitachi Vantara, adotando uma postura cautelosa diante dos investimentos em IA.
Leia também: Segurança de Dados: O Maior Desafio na Adoção da IA nas Empresas
Fonte: diretodorecife.com.br
Leia também: Segurança de Dados: O Desafio Central na Implementação da IA nas Empresas
Fonte: soudejuazeiro.com.br
Postura cautelosa dos executivos brasileiros
Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, destaca que os profissionais brasileiros preferem realizar uma análise aprofundada antes de investir em IA. Essa cautela é vista como positiva pelos especialistas, que recomendam questionar se o problema pode ser resolvido sem a tecnologia antes de adotá-la.
Para mitigar riscos e estruturar o uso da IA, os executivos defendem a educação dos usuários para que compreendam como a tecnologia funciona e as implicações do seu uso. Gibson alerta que essa capacitação demanda tempo, um aspecto frequentemente negligenciado pelas organizações.
Capacitação e testes são fundamentais
“É necessário definir claramente o que se espera da IA, entender os riscos envolvidos e evitar a pressa na implementação”, afirma Gibson. Ele destaca a importância de testar as soluções com antecedência para evitar surpresas e garantir uma adoção mais segura.
Segurança de dados ganha prioridade
O relatório também revela que a segurança de dados se tornou a maior preocupação das lideranças na adoção da IA, com 56% delas apontando esse tema como o principal desafio, um aumento de 19 pontos percentuais em relação ao ano anterior. Essa atenção crescente reflete na forma como as empresas usam os modelos de linguagem de grande escala (LLMs).
Leia também: Segurança de Dados é o Maior Desafio na Adoção da IA, Indica Relatório da Hitachi Vantara
Fonte: agazetadorio.com.br
Ferramentas como ChatGPT e Copilot registraram queda na percepção de sucesso, caindo de 95% para 81%. Paralelamente, cresce o investimento em governança e na qualidade dos dados. A proporção de empresas que aprimoram os dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, passando de 36% para 44%. Por outro lado, a quantidade de organizações sem estratégias de explicabilidade dos modelos caiu de 42% para 24%.
IA e seus riscos para os negócios
Gibson alerta que, apesar do potencial da IA, as alucinações e a falta de retorno sobre investimento começam a mostrar riscos para os negócios, já que a tecnologia nem sempre gera resultados determinísticos. Isso reforça a necessidade de governança e segurança para evitar prejuízos e fortalecer a confiança nas aplicações.
Governança não freia inovação
Os especialistas ressaltam que investir em governança e segurança não significa frear a inovação. Pelo contrário, essas medidas permitem usar a IA em sua capacidade máxima de forma segura, protegendo o negócio enquanto avança.
Gibson prevê que, no futuro, haverá interfaces únicas capazes de gerar resultados de forma simples e eficiente. Para chegar a esse estágio, porém, é fundamental que as organizações se estruturem adequadamente desde já, priorizando a segurança e a governança.
