Brincar com inteligência artificial talvez não seja tão seguro quanto imaginamos.
Pelo menos é o que diz um recente documento liberado pelo Google ao detalhar o desenvolvimento de um interruptor que desligaria sua inteligência artificial em caso de ameaça ou uma revolta dos robôs contra a humanidade.
De acordo com o Google, o botão serviria para manter um controle humano sobre a tecnologia e interromper uma possível “sequência nociva das ações” e conduzi-la a uma situação mais segura. O documento define danos para o meio ambiente ou o próprio agente.
“A interruptibilidade segura pode ser útil para assumir o controle de um robô que não está se comportando bem e que poderia levar a consequências irreversíveis, ou para tirá-lo de uma situação delicada, ou mesmo utilizá-lo temporariamente para aprender uma nova tarefa por meio de recompensas”, escrevem os pesquisadores.
O botão também poderia ser usado como artifício para fazer a inteligência artificial se comportar dentro dos padrões, evitando desta forma que os humanos tentem contornar a situação com o aperto do “botão”.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
Será que a inteligência artificial poderia chegar a tanto ou estão vendo muito filme de Hollywood ???
Nunca se sabe, né? É melhor planejar algo agora do que deixar para depois e perder o controle.
Tenho mt vontade programar um sistema IA, mas sempre tive em mente um meio de fazer um bloqueio ou até destruição total do sistema caso de merda, com sistemas que hj ja aprendem coisas novas sem nosso auxilio e até se programar sozinho, todo cuidado é pouco, pois a destruição de tantas especies que fizemos em anos, eles levarias alguns meses ou semanas para fazer a nós, lembrem, eles sao de aço, hidraulico e eletricos, ou seja, mt maia fortes q nois, e com tantos sensores encontrariam nois rapidamentes dentro de um predio ou tunel