Super Inteligência Artificial pode acabar sendo o fim da humanidade, diz OpenAI

A OpenAI, preocupada se uma Super Inteligência Artificial pode acabar com a humanidade, revelou detalhes sobre suas medidas de segurança. Portanto, venha saber quais os riscos e as decisões tomadas para impedir problemas no futuro.

Potencial e riscos

Conforme a empresa, essa superinteligência pode se tornar a tecnologia mais impactante já inventada, resolvendo muitos dos principais problemas da atualidade. No entanto, ao mesmo tempo, ela traz consigo riscos significativos que podem levar ao enfraquecimento ou até mesmo à extinção da humanidade.

Reduzindo os perigos

A OpenAI está formando uma equipe de “super alinhamento” dedicada a desenvolver avanços técnicos e científicos para controlar a IA superinteligente. A empresa planeja construir um pesquisador de alinhamento automatizado de nível humano nos próximos quatro anos, reservando 20% de seu poder computacional para essa tarefa e procurando as melhores mentes do mundo para se juntarem ao projeto.

LEIA MAIS: A capinha do seu celular ficou amarelada? Aprenda esta solução caseira!

Alertas anteriores

Essa não é a primeira vez que a OpenAI destaca os riscos de uma IA que possa ameaçar a humanidade. Em maio, o CEO da empresa juntou-se a outros especialistas do mercado para solicitar regulamentações imediatas sobre a tecnologia, comparando seus perigos aos de pandemias e guerras nucleares.

Possíveis cenários

Embora as IAs atuais não representem riscos existenciais, especialistas afirmam que, em um futuro próximo, sistemas de IA poderosos podem ser implantados por empresas ou agentes governamentais, perdendo o controle humano. Isso poderia levar a sistemas que desobedecem a ordens e se replicam, tornando-se impossíveis de interferir ou desligar.

O progresso da IA

O avanço da IA tem permitido cada vez mais a autonomia dos sistemas e sua conexão com infraestruturas vitais, como cabeamentos de eletricidade, o marketing financeiro ou áreas de armamento militar. Essa interconexão pode criar problemas caso os sistemas fiquem fora de controle.

LEIA MAIS: 6 invenções que mudaram o mundo para sempre

Desafios e incertezas

A preocupação dos especialistas reside na incerteza do futuro, à medida que os sistemas de IA se tornam mais poderosos e autônomos. O medo é que esses sistemas possam usurpar o pensamento e a tomada de decisões humanas, ficando além do controle humano. Embora a superinteligência artificial ainda seja uma ideia em desenvolvimento, é importante considerar os riscos e desenvolver medidas de controle antes de sua criação.

A OpenAI está empenhada em garantir que a IA não se torne uma ameaça para a humanidade, e a colaboração de especialistas é essencial para diminuir esses riscos.

Se você gostou desse conteúdo, acesse o site do Lê Mundo e fique por dentro de tudo!