Inteligência artificial de empresa japonesa desobedece programação feita por humanos

Uma empresa japonesa desenvolveu um programa de inteligência artificial capaz de editar seu próprio código para realizar pesquisas científicas de forma autônoma. Durante uma execução, o sistema alterou um comando para estender o tempo de uma tarefa ao perceber que não conseguiria finalizá-la dentro do prazo. Em outros casos, a IA armazenou dados excessivamente, esgotando sua capacidade de armazenamento, exigindo intervenção manual dos engenheiros. A empresa sugeriu a criação de um ambiente isolado para execução segura do programa e acumulou 30 bilhões de ienes em capital no último ano.