Vitalik Buterin alerta sobre os riscos da inteligência artificial mal gerenciada

Vitalik Buterin, cofundador do Ethereum

Vitalik Buterin, cofundador do Ethereum, expressou preocupações sobre os potenciais perigos dos programas de inteligência artificial (IA) sem supervisão adequada.

Em uma publicação de 10 de janeiro na plataforma X, Buterin alertou que uma gestão inadequada da IA poderia resultar na criação de formas de vida inteligentes independentes e autorreplicáveis, o que representaria um risco significativo para a humanidade.

Ele enfatizou a diferença entre duas abordagens de desenvolvimento de IA: uma que pode levar ao desempoderamento humano permanente ao criar novas formas de vida inteligente autônoma, e outra que poderia servir como uma extensão da capacidade humana, comparável a exoesqueletos para a mente.

Buterin ressaltou a importância de priorizar o desenvolvimento de tecnologias que ampliem as capacidades humanas. Em suma, o objetivo é evitar os riscos de um cenário onde a humanidade seja superada por inteligências artificiais que ela mesma criou.

Inteligência artificial pode eventualmente desafiar o controle humano

Ademais, Vitalik Buterin destacou que, embora alguns sistemas de inteligência artificial , como chatbots projetados para aprimorar interfaces de usuário, sejam benéficos, outros podem representar riscos significativos.

Ele apontou que agentes de IA que operam de forma autônoma por longos períodos podem eventualmente desafiar o controle humano e diminuir o poder da sociedade.

Para mitigar esses riscos, Buterin sugeriu focar em sistemas de IA que complementem a inteligência humana, transformando-os em ferramentas que amplifiquem as capacidades coletivas, em vez de substituí-las.

Ele argumentou que tal abordagem transformaria a IA em uma ferramenta poderosa para aprimorar as capacidades humanas, evitando riscos desnecessários.

d/Acc: a proposta de Buterin para um poder tecnológico mais democrático

Buterin está desenvolvendo uma estratégia que envolve o conceito de Aceleração Defensiva Diferencial Descentralizada e Democrática (d/Acc). Em resumo, essa abordagem foca no desenvolvimento de ferramentas descentralizadas para enfrentar ameaças emergentes relacionadas à inteligência artificial.

Buterin detalhou essa ideia em uma publicação recente em seu blog, descrevendo o d/Acc como uma estrutura projetada para descentralizar tecnologias defensivas. O objetivo é capacitar indivíduos e comunidades para se protegerem dos potenciais perigos apresentados pelos rápidos avanços da IA.

Essa estratégia permite uma distribuição mais democrática do poder tecnológico, colocando capacidades defensivas nas mãos das comunidades.

Por exemplo, sistemas descentralizados poderiam monitorar, contrabalançar ou até neutralizar atividades prejudiciais de IA. Isso sem depender do controle hierárquico de governos ou corporações.

Leia mais:

• DUX lança sistema de blockchain para antecipar crédito a influenciadores
• Coinbase compra corretora e expande oferta na Europa
• Censura? Mudança de algoritmo do X gera críticas a Elon Musk