Notícias

Sep 25, 2023

Hackers de chapéu branco na Idaho State University protegendo os futuros sistemas de IA do reator nuclear contra ataques cibernéticos

5 de junho de 2023 Ajudando a proteger os sistemas automatizados que operarão o

5 de junho de 2023

Ajudar a proteger os sistemas automatizados que operarão os reatores nucleares do futuro está sobre os ombros de um grupo de hackers de chapéu branco da Idaho State University.

Recentemente, Leslie Kerby, professora associada de ciência da computação, e pesquisadores que trabalham no Laboratório de Engenharia Computacional e Ciência de Dados de Kerby estão trabalhando para abrir buracos digitais nos sistemas de inteligência artificial que estão sendo testados por sua capacidade de executar reatores modulares avançados e pequenos de forma autônoma.

“Os dados são a chave para qualquer sistema de inteligência artificial, independentemente de para que estão sendo usados, porque esses sistemas funcionam aprendendo padrões e tendências nos dados”, explica Pedro “Pepo” Mena, pesquisador de pós-doutorado que trabalha no laboratório de Kerby. "Como eles aprendem é possivelmente a maior razão pela qual os sistemas de inteligência artificial podem ser vulneráveis ​​a um ataque cibernético. Ao manipular os dados usados ​​pelo sistema, um malfeitor pode afetar a saída do sistema e, por extensão, afetar as decisões que o sistema toma. Apenas Enquanto tentamos proteger nossos dados pessoais, os cientistas de dados devem tomar medidas para proteger as informações que esses sistemas usam para evitar que sejam comprometidos."

Trabalhando em seu laboratório baseado em Idaho Falls, Kerby e ela estimulam a IA de três ângulos: ataques de inferência, reprogramação adversária e ataques de trojan. Começando com o ataque de inferência, eles fazem engenharia reversa do sistema e têm uma ideia do que estão trabalhando. A partir daí, eles podem corromper seus dados, obrigando o sistema a “pensar” diferente e realizar ações para eventos que não estão acontecendo na realidade. A última maneira de testar o sistema é por meio de um ataque de trojan. A equipe substituirá o sistema por uma versão que se parece e se comporta principalmente como a versão correta, mas com algumas alterações no código que levam a consequências desastrosas.

“Sistemas de inteligência artificial estão sendo implementados em muitos campos, muitas vezes sem entender completamente os riscos de segurança que eles podem trazer”, disse Kerby. "Muitos sistemas de IA são um sistema de caixa preta, o que significa que eles produzem uma saída, mas não revelam como funcionam. Você pode enganar esses sistemas para fornecer saídas incorretas fazendo pequenas alterações nos dados que o sistema está usando."

"Quando vim para a ISU, não tinha ideia do que estava reservado para mim", disse Kallie McLaren, uma veterana de Idaho Falls, Idaho. "Sempre soube que a IA é um campo muito interessante e crescente, mas nunca pensei nos riscos potenciais da IA ​​ou pensei em fazer pesquisas para reatores nucleares autônomos antes deste projeto. Este projeto tem sido muito esclarecedor para os avanços em o mundo real e é fascinante ver como pequenas mudanças nos dados podem fazer uma grande mudança nos sistemas de IA. É emocionante fazer parte de um dos campos de crescimento mais rápido e adorei fazer parte desta equipe de pesquisa. "

A equipe do estado de Idaho também está colaborando com pesquisadores do Laboratório Nacional de Idaho e da Georgia Tech. A pesquisa no estado de Idaho está sendo financiada por quase US$ 250.000 do Laboratório Nacional de Idaho e do Escritório de Energia Nuclear do Departamento de Energia dos Estados Unidos.

“Quando terminarmos este projeto, nossa equipe poderá demonstrar os riscos de segurança enfrentados por esses sistemas e fornecer algumas práticas recomendadas para ajudar a implantar sistemas de inteligência artificial mais seguros, principalmente no campo da engenharia nuclear”, disse Kerby. "Em um nível pessoal, os alunos que trabalham neste projeto aprenderão habilidades valiosas e farão conexões com líderes da indústria que impactarão positivamente suas carreiras."

"Eu não sabia o que queria estudar quando vim para a ISU, mas sabia que queria fazer algo em um campo STEM", disse Eric Hill, graduado sênior em engenharia mecânica com especialização em ciência da computação de Idaho Falls . "Escolhi engenharia mecânica como minha especialidade, mas também fiz várias outras disciplinas que despertaram meu interesse, inclusive diversas aulas de informática com o Dr. Kerby. Foi assim que me envolvi neste grupo de pesquisa, e trabalhar neste projeto tem sido um excelente oportunidade para eu aprender mais sobre os campos de ciência da computação e IA. Isso solidificou meu interesse em continuar esse tipo de pesquisa e estou honrado e grato por poder trabalhar neste projeto."