O governo federal quer avaliar melhor as oportunidades e os riscos dos modelos modernos de IA com a ajuda de um novo comitê. O Conselho de Segurança Nacional decidiu criar uma agência de segurança de IA, anunciou o governo. Pretende-se reunir capacidade para analisar as capacidades dos modelos modernos de IA, incluindo riscos. Estas instituições devem também trocar ideias mais estreitamente com instituições estrangeiras semelhantes e esforçar-se por padrões uniformes ao lidar com IA com parceiros internacionais.
Leia mais depois do anúncio
De acordo com a Bitkom e a Associação TÜV, o novo instituto de inteligência artificial terá o título provisório de “Instituto Alemão de Segurança de IA (DE-AISI)”. Nas fases iniciais, foi planejado como uma “instituição virtual”, utilizando a estrutura e competências da Agência Federal de Redes e do Escritório Federal de Segurança da Informação (BSI).
Na segunda etapa, o local deve ser encontrado. Quando isso acontecerá ainda não está claro. Um porta-voz do BSI disse à dpa que, devido ao rápido desenvolvimento tecnológico em IA, é importante que os ministérios líderes – o Ministério Federal do Interior e o Ministério do Digital – façam progressos rápidos aqui.
“Experiência superior de especialistas de classe mundial”
Estas instituições devem concentrar-se nas questões clássicas da segurança cibernética da IA, como a proteção contra ataques, mas também na segurança da IA - trata-se de produtos de IA seguros que não conduzem a comportamentos perigosos. Muitos países já possuem tais instituições; na Alemanha, o Gabinete Federal de Segurança da Informação (BSI) já realizou tarefas nesta área. Uma reunião internacional sobre padrões de IA ocorreu em dezembro na capital sul-coreana, Seul, onde o BSI também esteve representado.
De acordo com a dpa, o Ministro Federal Digital, Karsten Wildberger (CDU), anunciou à margem de uma reunião da UE no Luxemburgo que os institutos de IA devem ser equipados com “os mais elevados conhecimentos de especialistas de classe mundial”. Portanto, é necessário testar e avaliar rapidamente novos modelos como o de Claude Mythos e assessorar o governo e a administração federal. O AI Security Institute do Reino Unido é um modelo.
A Anthropic inicialmente limitou o acesso aos modelos Claude Mythos Preview a um pequeno grupo de empresas e autoridades dos EUA. Mythos é muito bom em detectar vulnerabilidades de segurança e é por isso que ainda não está disponível, explicou a empresa. As instituições da Europa agora também têm acesso permitido.
Bitkom é para
Leia mais depois do anúncio
No geral, os detalhes sobre o design do instituto ainda são escassos. Como é o quadro de pessoal e o orçamento, quais competências a agência deve ter diferente do BSI – o governo federal não explicou isso. A resposta ao pedido da redação do iX ainda está pendente.
Apesar das questões em aberto, a associação TÜV e a associação industrial Bitkom acolheram favoravelmente a decisão. “Ao estabelecer uma agência de segurança para inteligência artificial, a Alemanha está a alcançar países como a Grã-Bretanha, os Estados Unidos e a França, que criaram as suas próprias instituições”, explicou Susanne Dehmel, membro do conselho de administração da Bitkom. Isto criará um pré-requisito para a avaliação dos riscos da IA numa fase inicial.
Bitkom recomenda dar à agência um mandato especial de pesquisa. Pode também criar um relatório de situação tendo em vista o novo modelo de fronteiras e assim mostrar os riscos para a segurança e soberania da Alemanha. Para atrair os melhores talentos internacionais, a associação exige financiamento ao nível AISI do Reino Unido.
(suspirar)
