Devemos ter medo da inteligência artificial (IA)?

Alguns indivíduos notáveis, como o lendário físico Stephen Hawking e o líder e inovador da Tesla e da SpaceX, Elon Musk, sugerem que a IA poderia ser muito perigosa; Musk em um ponto estava comparando a IA aos perigos do ditador da Coréia do Norte.

O co-fundador da Microsoft, Bill Gates, também acredita que há motivos para ser cauteloso, mas que o bem pode superar o mal se gerenciado adequadamente. Como os desenvolvimentos recentes tornaram as máquinas superinteligentes possíveis muito mais cedo do que se pensava inicialmente, agora é a hora de determinar quais perigos a inteligência artificial representa.

O que é inteligência artificial aplicada e generalizada?

No núcleo, a inteligência artificial é sobre a construção de máquinas que podem pensar e agir de forma inteligente e inclui ferramentas como algoritmos de busca do Google ou as máquinas que tornam os carros autônomos possíveis. Embora a maioria das aplicações atuais seja usada para impactar positivamente a humanidade, qualquer ferramenta poderosa pode ser usada para fins prejudiciais quando cai em mãos erradas. Hoje, alcançamos AI-AI aplicada que executa uma tarefa estreita, como reconhecimento facial, processamento de linguagem natural ou pesquisas na Internet. Em última análise, especialistas no campo estão trabalhando para chegar a uma IA mais generalizada, onde os sistemas podem lidar com qualquer tarefa que humanos inteligentes possam realizar e provavelmente nos vencer em cada um deles.

Em um comentário, Elon Musk escreveu: “O ritmo do progresso na inteligência artificial (não estou me referindo à IA estreita) é incrivelmente rápido. A menos que você tenha exposição direta a grupos como o Deepmind, você não tem ideia de quão rápido – está crescendo a um ritmo quase exponencial. O risco de algo seriamente perigoso acontecer é no prazo de cinco anos. 10 anos no máximo.”

riscos da inteligência artificial

De fato, existem muitos aplicativos de IA que tornam nossas vidas diárias mais convenientes e eficientes. São os aplicativos de IA que desempenham um papel crítico na garantia da segurança que Musk, Hawking e outros estavam preocupados quando proclamaram sua hesitação sobre a tecnologia. Por exemplo, se a IA for responsável por garantir a operação de nossa rede elétrica e nossos piores medos forem realizados, e o sistema for desonesto ou for hackeado por um inimigo, isso poderá resultar em danos maciços.

Como a inteligência artificial pode ser perigosa?

Embora ainda não tenhamos alcançado máquinas superinteligentes, as questões legais, políticas, sociais, financeiras e regulatórias são tão complexas e abrangentes que é necessário dar uma olhada nelas agora, para que estejamos preparados para operar com segurança entre elas quando chegar a hora. Além de se preparar para um futuro com máquinas superinteligentes agora, a inteligência artificial já pode representar perigos em sua forma atual. Vamos dar uma olhada em alguns dos principais riscos relacionados à IA.

1. As armas autônomas

A IA programada para fazer algo perigoso, como é o caso das armas autônomas programadas para matar, é uma maneira pela qual a IA pode representar riscos. Pode até ser plausível esperar que a corrida armamentista nuclear seja substituída por uma corrida armamentista autônoma global. O presidente da Rússia, Vladimir Putin, disse: “A inteligência artificial é o futuro, não apenas para a Rússia, mas para toda a humanidade. Ele vem com enormes oportunidades, mas também ameaças que são difíceis de prever. Quem quer que se torne o líder nesta esfera se tornará o governante do mundo.

Além de estar preocupado que as armas autônomas possam ganhar uma “mente própria”, uma preocupação mais iminente é os perigos que as armas autônomas podem ter com um indivíduo ou governo que não valoriza a vida humana. Uma vez implantados, eles provavelmente serão difíceis de desmontar ou combater.

2. Manipulação social

A mídia social através de seus algoritmos autônomos é muito eficaz no marketing-alvo. Eles sabem quem somos, o que gostamos e são incrivelmente bons em supor o que pensamos. As investigações ainda estão em andamento para determinar a culpa da Cambridge Analytica e outras associadas à empresa que usaram os dados de 50 milhões de usuários do Facebook para tentar influenciar o resultado da eleição presidencial dos EUA em 2016 e do referendo Brexit no Reino Unido, mas se as acusações estiverem corretas, isso ilustra o poder da IA para a manipulação social. Ao espalhar propaganda para indivíduos identificados por meio de algoritmos e dados pessoais, a IA pode direcioná-los e espalhar qualquer informação que eles gostem, em qualquer formato que achem mais convincente – fato ou ficção.

3. Invasão de privacidade e ranqueamento social

Agora é possível rastrear e analisar cada movimento de um indivíduo on-line, bem como quando eles estão indo sobre o seu negócio diário. As câmeras estão em quase todos os lugares, e os algoritmos de reconhecimento facial sabem quem você é. Na verdade, esse é o tipo de informação que vai alimentar o sistema de crédito social da China, que deve dar a cada um de seus 1,4 bilhão de cidadãos uma pontuação pessoal com base em como eles se comportam – coisas como passear, fumar em áreas não-fumantes e quanto tempo eles passam jogando videogames. Quando o Grande Irmão está observando você e depois tomando decisões com base nessa informação, não é apenas uma invasão de privacidade que pode rapidamente se transformar em opressão social.

4. Desalinhamento entre nossos objetivos e os da máquina

Parte do que os seres humanos valorizam em máquinas alimentadas por IA é sua eficiência e eficácia. Mas, se não formos claros com os objetivos que estabelecemos para as máquinas de IA, pode ser perigoso se uma máquina não estiver armada com os mesmos objetivos que temos. Por exemplo, um comando para “Leve-me ao aeroporto o mais rápido possível” pode ter consequências terríveis. Sem especificar que as regras da estrada devem ser respeitadas porque valorizamos a vida humana, uma máquina poderia efetivamente cumprir seu objetivo de levá-lo ao aeroporto o mais rápido possível e fazer literalmente o que você pediu, mas deixar para trás um rastro de acidentes.

5. Discriminação.

Como as máquinas podem coletar, rastrear e analisar muito sobre você, é muito possível que essas máquinas usem essas informações contra você. Não é difícil imaginar uma companhia de seguros dizendo que você não é segurável com base no número de vezes que você foi pego na câmera falando no seu telefone. Um empregador pode reter uma oferta de emprego com base em sua “pontuação de crédito social”.

Qualquer tecnologia poderosa pode ser mal utilizada. Hoje, a inteligência artificial é usada para muitas boas causas, inclusive para nos ajudar a fazer melhores diagnósticos médicos, encontrar novas maneiras de curar o câncer e tornar nossos carros mais seguros. Infelizmente, à medida que nossos recursos de IA se expandem, também os veremos sendo usados para fins perigosos ou maliciosos. Como a tecnologia de IA está avançando tão rapidamente, é vital começarmos a debater as melhores maneiras de a IA se desenvolver positivamente, minimizando seu potencial destrutivo.