No décimo ano de ingresso no Google, quando o aprendizado profundo deu início a um desenvolvimento explosivo, Geoffrey Hinton, conhecido como o "Padrinho da Inteligência Artificial", renunciou ao Google, apenas para alertar as pessoas de que a IA se tornou muito perigosa.
De acordo com informações públicas, Geoffrey Hinton ingressou no Google em 2013 e atuou como vice-presidente. Ele estudou algoritmos de aprendizado de máquina por mais de dez anos e trouxe tecnologia de aprendizado profundo para muitos negócios do Google, promovendo diretamente o Google para se tornar uma das empresas mais destacadas em Tecnologia de IA. um. Em 2019, ele ganhou o "Prêmio Turing", a maior honraria da indústria de computadores, e treinou pessoalmente um grande número de talentos relacionados ao aprendizado de máquina, incluindo Ilya Sutskever, cofundador e cientista-chefe da OpenAI. Em 2016, Hinton participou do projeto de inteligência artificial AlphaGo, famoso por derrotar o campeão mundial humano no jogo de Go.
Em um tweet em 1º de maio, Hinton confirmou sua saída do Google, esclarecendo: "... Na verdade, saí para poder falar abertamente sobre os perigos da IA sem ter que pensar no impacto no Google, o comportamento do Google também é muito responsável .”
É relatado que Hinton tem as seguintes preocupações sobre inteligência artificial. Em primeiro lugar, com o apoio da tecnologia de inteligência artificial, a Internet logo será inundada com todos os tipos de informações falsas. Fotos falsas, vídeos falsos e notícias falsas vão inundar a internet a ponto de muitas pessoas “não conseguirem mais saber o que é real”. Em segundo lugar, a IA substituirá a maioria dos empregos, causando uma explosão no desemprego. Hinton disse: "A IA elimina o trabalho enfadonho, mas pode exigir muito mais do que isso." A IBM anunciou ontem que suspenderá o recrutamento para cargos que a inteligência artificial (IA) pode desempenhar e pode substituir 7.800 empregos por inteligência artificial.
A inteligência artificial pode representar uma ameaça para os humanos no futuro porque a IA aprendeu comportamentos inesperados de grandes quantidades de dados. Nesse tipo de treinamento contínuo, é muito provável que o “robô assassino autônomo” se torne uma realidade. Em quarto lugar, a competição entre o Google, a Microsoft e outras grandes empresas logo se transformará em uma competição global. Sem algum tipo de regulamentação, essa competição não parará e a velocidade do desenvolvimento da inteligência artificial excederá em muito a nossa. Imagine e, eventualmente, saia de controle.
A velocidade do desenvolvimento da IA excedeu em muito as expectativas de muitos especialistas, incluindo Hinton. Hinton disse: "Muitas pessoas acham que isso está longe. Eu também pensava assim. Acho que levará pelo menos 30 a 50 anos para chegarmos a esse dia. Mas, quanto às informações que aprendi até agora , eu já acho que não."
As palavras acima são ditas por outros, e muitas pessoas ainda podem achar que essas visões são alarmistas. Mas quando Geoffrey Hinton, o especialista de maior autoridade no campo da inteligência artificial do mundo e o fundador do aprendizado profundo, renunciar ao Google e alertar o mundo, isso fará com que mais pessoas pensem seriamente e prestem atenção a esse problema.
Entende-se que alguns investidores e pesquisadores de IA republicaram a entrevista de Geoffrey Hinton, pedindo aos reguladores acadêmicos, industriais e governamentais que ajam rapidamente para formular uma estrutura regulatória e regulamentos o mais rápido possível, enquanto a tecnologia atual ainda está dentro do alcance controlável. etc.
Reguladores, legisladores e executivos da indústria de tecnologia expressaram repetidamente preocupação com o desenvolvimento da inteligência artificial nos últimos meses. Mais de 2.600 executivos e pesquisadores de tecnologia assinaram uma carta aberta pedindo uma moratória no desenvolvimento da IA, citando “riscos profundos para a sociedade e a humanidade”. Doze legisladores da UE assinaram uma carta semelhante em abril, um projeto de lei recente da UE classifica as ferramentas de IA de acordo com seu nível de risco e o Reino Unido alocou US$ 125 milhões para apoiar um grupo de trabalho para desenvolver “inteligência artificial segura”.
Resumir
Atualmente, os gigantes da tecnologia parecem estar mais preocupados em como tornar a IA cada vez mais poderosa, em vez de considerar como ela pode se adaptar à sociedade e ao meio ambiente. Diante dos novos avanços da inteligência artificial, o atual modelo de governança e as medidas de governança não acompanharam. Se uma IA mais poderosa for introduzida neste momento, é provável que traga perigos ocultos mais sérios.
Portanto, as pessoas não devem ampliar rapidamente a pesquisa de IA até que saibam o suficiente para controlá-la, e também é importante estabelecer um mecanismo credível, aberto e transparente para garantir que a IA seja devidamente regulamentada e controlada para realizar seu potencial e mitigar seus efeitos negativos. .