A segurança em inteligência artificial (IA) é um campo que vem ganhando crescente atenção, especialmente com o aumento de ameaças específicas a essa tecnologia. Um exemplo marcante dessa tendência é a Mindgard, uma spin-off britânica da Lancaster University, que se dedica a proteger empresas contra ameaças em IA. Fundada em 2022 pelo Professor Peter Garraghan, a Mindgard une o talento de cientistas e engenheiros do laboratório de cibersegurança da universidade, consolidando-se rapidamente como uma força inovadora no cenário tecnológico em Londres.
Enfrentando Ameaças Específicas de IA
Muitos sistemas de segurança tradicionais falham em detectar certas vulnerabilidades específicas que surgem com a inteligência artificial, como jailbreaks e injeções de prompt. A Mindgard destaca-se por sua abordagem distinta, utilizando o Dynamic Application Security Testing para IA (DAST-AI), técnica que identifica falhas durante a execução das aplicações, algo essencial para manter a integridade dos sistemas baseados em IA.
Tecnologia de Ponta e Abordagem Estratégica
O diferencial da Mindgard reside em sua plataforma, que utiliza red teaming contínuo e automatizado. Esse processo consiste em simular ataques com base em uma biblioteca de ameaças, permitindo que os modelos de IA se tornem mais robustos contra entradas adversas. Essa tecnologia, apoiada no conhecimento profundo de segurança em IA do CEO e CTO, Professor Peter Garraghan, beneficia-se ainda de colaborações em pesquisa com a Lancaster University.
Expandindo Horizontes: Mercado e Crescimento
Oferecendo suas soluções como um serviço SaaS comercial, a Mindgard atende a empresas, equipes de red teaming, testadores de penetração e startups de IA que buscam prevenir riscos. Recentemente, a empresa obteve um financiamento de 8 milhões de dólares liderado pela .406 Ventures, com sede em Boston. Este investimento será crucial para a expansão da Mindgard para o mercado norte-americano, enquanto mantém suas operações de P&D em Londres, preparando-se para aumentar seu quadro de funcionários.
Perguntas para Discussão
- Como a Mindgard pode influenciar a segurança em inteligência artificial para outras indústrias?
- Que desafios a Mindgard pode enfrentar ao expandir suas operações nos Estados Unidos?
- Quais são as implicações do mercado de robótica na segurança de IA?
Via: TechCrunch
