Conhecimento Técnico que Transforma
Conhecimento Técnico que Transforma
Categorias
Popular

Tecnologia da China pode ser entrave para SP liderar hospital da USP

A implementação do primeiro hospital inteligente do SUS no complexo do Hospital das Clínicas da USP promete revolucionar o atendimento público. Com tecnologias de ponta, o projeto alia inovação digital à alta complexidade da saúde brasileira.

Inspirado em modelos chineses, o projeto ITMI-Brasil integra inteligência artificial, big data e conectividade 5G para modernizar a gestão hospitalar e a regulação de leitos, promovendo eficiência e redução do tempo de internação. A cooperação estratégica entre Brasil e China, mediada pelo Centro Chinês da USP e financiada pelo banco do BRICS, destaca a importância desse intercâmbio internacional para impulsionar inovação na saúde digital.

Com um investimento previsto de US$ 320 milhões e uma área de 150 mil metros quadrados, o hospital inteligente visa inicialmente conectar 10 UTIs em todo o país. A tecnologia permitirá monitoramento remoto, triagem automatizada e atendimento humanizado, combinando automação hospitalar com ensino remoto. A expectativa é que a aplicação de IA e sistemas 5G reduza significativamente os tempos de espera e aumente a eficiência do SUS.

O projeto não só tem potencial para transformar o sistema público de saúde como também posiciona São Paulo na vanguarda da inovação tecnológica em saúde. Porém, a dependência da tecnologia chinesa coloca desafios regulatórios e geopolíticos que precisam ser geridos para garantir soberania tecnológica e transferência efetiva de conhecimento.

Microsoft revela ‘Skeleton Key’: Nova técnica de jailbreak em IA preocupa engenheiros e desenvolvedores

A Microsoft acaba de divulgar informações sobre um novo tipo de ataque de jailbreak em inteligência artificial, denominado “Skeleton Key” (Chave Mestra). Dessa forma, esta técnica é capaz de burlar as medidas de segurança implementadas em diversos modelos de IA generativa, incluindo sistemas desenvolvidos por gigantes da tecnologia como OpenAI, Google e Meta.

microsoft

O que é o Skeleton Key e como funciona?

O Skeleton Key é uma técnica de jailbreak que utiliza uma estratégia de múltiplas etapas para convencer um modelo de IA a ignorar suas salvaguardas incorporadas. Dessa forma, uma vez bem-sucedido, o modelo se torna incapaz de distinguir entre solicitações maliciosas ou não autorizadas e legítimas, efetivamente dando aos atacantes controle total sobre a saída da IA.

Impacto na engenharia e desenvolvimento de IA

Para engenheiros e desenvolvedores trabalhando com IA, esta descoberta ressalta a necessidade crítica de implementar medidas de segurança robustas em todas as camadas do stack de IA. Assim, a vulnerabilidade foi testada com sucesso em vários modelos proeminentes, incluindo:

  • Meta’s Llama3-70b-instruct
  • Google’s Gemini Pro
  • OpenAI’s GPT-3.5 Turbo e GPT-4
  • Mistral Large
  • Anthropic’s Claude 3 Opus
  • Cohere Commander R Plus

Mitigando os riscos: Recomendações da Microsoft

A Microsoft sugere uma abordagem em múltiplas camadas para designers de sistemas de IA:

  1. Filtragem de entrada para detectar e bloquear inputs potencialmente nocivos ou maliciosos
  2. Engenharia cuidadosa de prompts nas mensagens do sistema para reforçar comportamentos apropriados
  3. Filtragem de saída para prevenir a geração de conteúdo que viole critérios de segurança
  4. Sistemas de monitoramento de abuso treinados em exemplos adversariais para detectar e mitigar conteúdos ou comportamentos problemáticos recorrentes

Ferramentas para testar e proteger sistemas de IA

A Microsoft atualizou seu PyRIT (Python Risk Identification Toolkit) para incluir o Skeleton Key. Dessa forma, ela permite que desenvolvedores e equipes de segurança testem seus sistemas de IA contra esta nova ameaça.

Conclusão

A descoberta do Skeleton Key sublinha os desafios contínuos na segurança de sistemas de IA à medida que se tornam mais prevalentes em várias aplicações. Assim, para engenheiros e profissionais de tecnologia, isso ressalta a importância de manter-se atualizado sobre as últimas ameaças de segurança em IA e implementar medidas de proteção robustas em todos os projetos relacionados à inteligência artificial.

Por fim, continue acompanhando o Blog da Engenharia e fique por dentro de todas as novidades do mundo da tecnologia e engenharia.

Share this article
Shareable URL
Prev Post

Desenvolvimento de Sensores Biológicos para Monitoramento Ambiental

Next Post

Reforma Tributária e a Engenharia: Como ficam nossas profissões no PL aprovado pela Câmara?

Read next