Cinco diretrizes devem definir o desenvolvimento futuro da inteligência artificial geral em OpenAI) (Fonte da imagem: AdobeStock Squtye)
Quem controla a super IA do futuro? Na opinião do ChatGPT, a resposta é: todos nós. As empresas de IA introduziram novas regras para lidar com a inteligência artificial geral (AGI) para garantir que todos os humanos, e não apenas alguns, beneficiem dela.
Com cinco novas diretrizes, a OpenAI está comprometida não em manter a tecnologia de IA do futuro, mas em colocá-la nas mãos de muitas pessoas de forma segura, descentralizada e transparente.
O que exatamente é inteligência artificial geral?
A inteligência artificial geral (AGI) representa um estágio futuro da tecnologia em que a IA não é útil apenas em áreas específicas – como escrever textos ou jogar xadrez – mas atinge as habilidades gerais de pensamento dos humanos.
Ao contrário dos sistemas atuais de IA, o AGI pode aprender de forma independente, raciocinar logicamente e resolver problemas de forma independente.
2h42
Em “O documento de IA: ou como me tornei um apocalíptico”, dizem as vozes mais importantes da indústria de IA.
Cinco diretrizes para criadores de ChatGPT
Aqui estão cinco novos princípios que a OpenAI definiu em suas diretrizes atualizadas para lidar com AGI:
- Democratização: OpenAI quer evitar que o poder sobre a IA seja concentrado nas mãos de poucos. As decisões sobre a inteligência artificial geral devem ser tomadas através de um processo democrático. O poder sobre a superIA deve ser descentralizado.
- autoridade: As pessoas precisam de ser apoiadas pela IA para atingirem os seus objetivos e concretizarem o seu potencial. Os usuários devem ter muita liberdade. Fortes mecanismos de proteção visam impedir o uso indevido da tecnologia.
- Bem-estar universal: Os benefícios das novas tecnologias deverão beneficiar a sociedade como um todo e promover a prosperidade global. Para conseguir isso, a OpenAI está investindo em infraestrutura e tecnologia de IA para reduzir custos. Ao mesmo tempo, a empresa apelou ao governo para rever o novo modelo económico para garantir que todos possam participar.
- Resistência: A segurança vem antes da velocidade do desenvolvimento. Se houver sérios problemas de segurança ou problemas com o alinhamento dos modelos de IA, a OpenAI reserva-se o direito de fazer uma pausa. Está claramente planeada uma cooperação estreita com governos e autoridades internacionais.
- adaptabilidade: Os fabricantes de ChatGPT estão empenhados em permanecer flexíveis e adaptar as suas estratégias e diretrizes se estas se basearem em novas descobertas científicas ou práticas.
Outras empresas de IA também publicaram diretrizes nos últimos anos para sujeitar a IA a certas regras.
Por exemplo, o Google publicou os Princípios de IA, nas diretrizes alemãs de IA, após protestos internos contra projetos militares de IA. O produtor Claude Anthropic desenvolveu uma abordagem de IA Constitucional, para que o modelo de IA seja treinado com o tipo de constituição desde o início.
Mais sobre o assunto: Nova classificação de IA: o líder da OpenAI se foi, o famoso caçador caiu no esquecimento
No final, as novas diretrizes AGI da OpenAI continuam a ser uma das mais importantes: uma promessa para a sociedade. Ainda não se sabe se a OpenAI defenderá os princípios da descentralização e da segurança quando a superinteligência se tornar uma realidade e os interesses económicos estiverem em jogo.
