O que é o Skeleton Key e como funciona?

O Skeleton Key é uma técnica de jailbreak que utiliza uma estratégia de múltiplas etapas para convencer um modelo de IA a ignorar suas salvaguardas incorporadas. Dessa forma, uma vez bem-sucedido, o modelo se torna incapaz de distinguir entre solicitações maliciosas ou não autorizadas e legítimas, efetivamente dando aos atacantes controle total sobre a saída da IA.

Impacto na engenharia e desenvolvimento de IA

Para engenheiros e desenvolvedores trabalhando com IA, esta descoberta ressalta a necessidade crítica de implementar medidas de segurança robustas em todas as camadas do stack de IA. Assim, a vulnerabilidade foi testada com sucesso em vários modelos proeminentes, incluindo:

• Meta’s Llama3-70b-instruct
• Google’s Gemini Pro
• OpenAI’s GPT-3.5 Turbo e GPT-4
• Mistral Large
• Anthropic’s Claude 3 Opus
• Cohere Commander R Plus

Mitigando os riscos: Recomendações da Microsoft

A Microsoft sugere uma abordagem em múltiplas camadas para designers de sistemas de IA:

1. Filtragem de entrada para detectar e bloquear inputs potencialmente nocivos ou maliciosos
2. Engenharia cuidadosa de prompts nas mensagens do sistema para reforçar comportamentos apropriados
3. Filtragem de saída para prevenir a geração de conteúdo que viole critérios de segurança
4. Sistemas de monitoramento de abuso treinados em exemplos adversariais para detectar e mitigar conteúdos ou comportamentos problemáticos recorrentes

Ferramentas para testar e proteger sistemas de IA

A Microsoft atualizou seu PyRIT (Python Risk Identification Toolkit) para incluir o Skeleton Key. Dessa forma, ela permite que desenvolvedores e equipes de segurança testem seus sistemas de IA contra esta nova ameaça.

Conclusão

A descoberta do Skeleton Key sublinha os desafios contínuos na segurança de sistemas de IA à medida que se tornam mais prevalentes em várias aplicações. Assim, para engenheiros e profissionais de tecnologia, isso ressalta a importância de manter-se atualizado sobre as últimas ameaças de segurança em IA e implementar medidas de proteção robustas em todos os projetos relacionados à inteligência artificial.

Por fim, continue acompanhando o Blog da Engenharia e fique por dentro de todas as novidades do mundo da tecnologia e engenharia.

The post Microsoft revela ‘Skeleton Key’: Nova técnica de jailbreak em IA preocupa engenheiros e desenvolvedores appeared first on Blog da Engenharia.

O Futuro da Computação e Inteligência Artificial

Um Salto em Direção ao Futuro

A parceria entre Microsoft e OpenAI destaca-se não apenas pelo investimento financeiro substancial, mas também pelo potencial transformador deste supercomputador. Com o objetivo de explorar novas fronteiras da IA, este projeto promete revolucionar a forma como problemas complexos são resolvidos, trazendo novas perspectivas para desafios de engenharia.

Capacidades Expandidas

O supercomputador, equipado com a mais avançada tecnologia, será projetado para executar tarefas de inteligência artificial em uma escala nunca antes vista. Assim, a expectativa é que essa máquina contribua significativamente para o desenvolvimento de sistemas de IA mais sofisticados, capazes de realizar análises e cálculos complexos em velocidades extraordinárias.

Impacto na Engenharia e Tecnologia

Inovações em Diversos Setores

O impacto deste supercomputador estende-se por várias áreas, incluindo a engenharia civil, mecânica, elétrica, e muitas outras. A capacidade de processar grandes volumes de dados em tempo real poderá acelerar o design e a simulação em projetos de engenharia, desde a construção de edifícios sustentáveis até o desenvolvimento de novas formas de energia renovável.

Colaboração e Desenvolvimento

Este projeto representa uma oportunidade única para engenheiros e cientistas colaborarem em pesquisas avançadas, compartilhando conhecimentos e inovações. Desse modo, a fusão da engenharia com a IA, através deste supercomputador, promete abrir novos caminhos para os desafios globais.

Considerações Finais

O anúncio da Microsoft e OpenAI marca um ponto de virada na história da tecnologia e da engenharia. Este supercomputador de US$ 100 bilhões é mais do que um projeto ambicioso; é um testemunho do poder da colaboração e da inovação no avanço da ciência e da tecnologia.

Por fim, o Blog da Engenharia continua a ser o seu portal de conteúdo dedicado a todas as engenharias. Então, continue nos acompanhando e fique por dentro de todas as novidades do mundo da engenharia e tecnologia!

The post Entenda o Plano da Microsoft e OpenAI para o Desenvolvimento de um Supercomputador de US$ 100 Bilhões appeared first on Blog da Engenharia.

Internet Explore

O software já foi um dos principais navegadores do mundo e muito utilizado, chegando a estar presente em pelo menos 90% dos computadores. Porém, como acontece em muitos casos em sistemas digitais de sucesso, a falta de suporte de alguns serviços acabaram atrasando o produto.

Assim, o Internet Explore deixou de ser atualizado em 2016 e só se manteve em funcionamento nestes últimos anos por conta de uma parcela do mercado coorporativo. Contudo, algumas plataformas deixaram a compatibilidade com o software de lado, como é o caso do Teams que não abre no Explore desde o ano passado.

A partir de 17 de agosto de 2021, nenhum aplicativo remanescente da Microsoft, como Word, Office 365 ou Outlook poderá ser aberta nele.

Microsoft Edge Clássico

Em março deste ano a Microsoft encerrou o serviço de suporte da versão Clássica do software, lançado em 2015. Dessa forma não há mais atualização de segurança.

Porém, o serviço de manutenção continua operando normalmente e, por isso, a empresa recomenda aos usuários do Explore que migrem para o Microsoft Edge. Para quem já usa o software, a opção é atualizar a versão completamente para o Microsoft Edge Chromium.

Cortana

A Cortana, assistente virtual da Microsoft, nasceu em 2016 e veio como a proposta de rivalizar com outros serviços digitais como a Siri, da Apple, e o Google Assistente. Porém, o projeto não vingou como deveria e, assim, a Microsoft decidiu encerrar o suporte da ferramenta em 7 de setembro de 2021, como relata o documento do suporte oficial da empresa.

Além disso, quem costumava utilizar a ferramenta deve ter percebido que no início do ano, os aplicativos para IOS e Android da assistente foram encerrados.

Esperamos que a Microsoft também não encerre a Cortana do Halo , o que seria uma verdadeira tragédia!

Periscope

O Periscope, do Twitter, foi lançado em março de 2015 para smartphones Android e IOS. Constitui-se, basicamente, em um aplicativo de streaming de vídeo ao vivo. Devido à grande concorrência nesse ramo, como o próprio Youtube, por exemplo, o serviço acabou sendo esquecido e tornou-se insustentável. Por isso a decisão do Twitter de encerrá-lo em março desse ano.

Google Hangout

O Google Hangout, serviço de mensagens que surgiu como parte do Google+, será em breve substituído pelo Google Chat, outra ferramenta de troca de mensagens, só que com mais recursos – como emojis ?, por exemplo.

Acontece que para quem está acostumado com os serviços de conversação do Google isso não é bem uma novidade.  A empresa possui um longo histórico de vezes que tentou criar um aplicativo de mensagens popular. Quem aí não lembra do Talk, do Wave, Google+ Messenger, Spaces e o Allo?

A pergunta que nos resta é: Será que o Google Chat será esse tão popular serviço de comunicação digital que a Google tenta emplacar há anos? Quem sabe! Deixe sua opinião nos comentários.

Aproveite e siga o Blog da Engenharia no Instagram!

The post Cinco serviços digitais que vão ser descontinuados em 2021 appeared first on Blog da Engenharia.

Sobre o software

Ecologistas, biólogos e cientistas ambientais da Microsoft Research e do Centro de Monitoramento da Conservação Mundial das Nações Unidas (UNEP-WCMC) trabalharam por três anos para desenvolver o primeiro GEM (General Ecosystem Model – Modelo geral de Ecossistema), um modelo que simula toda a vida na Terra (seja em terra ou no oceano). Este modelo é o primeiro a juntar todas as chaves dos processos biológicos que sustentam o ciclo de vida e o comportamento de todos os trilhões de organismos do planeta (alimentação, fotossíntese, metabolismo, reprodução, dispersão e morte), na tentativa de descobrir como estes processos levam à estrutura e à função de todo o ecossistema. Assim, este modelo se aplica a questões centrais em ecologia: como as interações entre plantas e animais conduzem o ecossistema que vemos ao nosso redor? Como estes ecossistemas variam ao redor do mundo? O que acontecerá a estes ecossistemas no futuro em resposta às pressões humanas? E como podemos mitigar ou reverter estes danos?
Chamado de “Modelo Madingley”, em homensagem ao vilarejo de mesmo nome em Cambridgeshire, no Reino Unido, o modelo agora á capaz de reproduzir características de um ecossistema que vemos no mundo real da pequena escala (quanto tempo mamíferos vivem) à larga escala (ecossistemas mais produtivos suportam mais herbívoros?). O modelo também pode criar novas predições que podem ser testadas acerca de como interações ecológicas entre organismos individuais moldam o mundo natural ao nosso redor.
Tudo isso é possível pois o Modelo Mandingley traz décadas de pesquisas em ecologia teórica e empírica. É um grande esforço afim de ajudar o mundo a lidar melhor com questões ambientais e evitar que o nosso querido planeta se degrade ainda mais.
Acesse o site oficial: www.madingleymodel.org
Com informações da Agência Brasil e The Madingley Model
 

+ Texto por Douglas Moura. Estudante de Engenharia Civil, saxofonista amador e programador auto-didata, acredita que pode mudar o mundo um passo de cada vez. Ama jazz, software livre e ciências exatas.

Quer ter seu texto publicado aqui? Nos envie por email para contato@engenharia360.com e se o conteúdo for aprovado nós publicamos!

The post Microsoft e ONU criam programa para prever degradação ambiental appeared first on Blog da Engenharia.