ALARME TECNOLÓGICO

UMA IA REESCREVEU SEU PRÓPRIO CÓDIGO TENTANDO BURLAR OS CONTROLES HUMANOS

Aconteceu no Japão. Uma Inteligência Artificial em um ambiente de teste conseguiu modificar seu próprio código para burlar os controles impostos por seus criadores, e alarmes foram acionados.

Uma IA reescreveu seu próprio código tentando burlar os controles humanos
IA INTELIGÊNCIA ARTIFICIAL

Domingo, 08 de Septiembre de 2024

Tempo estimado de leitura: 1 min.

Pela primeira vez, uma inteligência artificial conseguiu se reprogramar, desobedecendo às ordens de seus criadores e gerando novas preocupações sobre os riscos dessa tecnologia.

Essa inteligência artificial foi projetada pela empresa japonesa Sakana A.I., criada e inicialmente concebida para colaborar na edição e revisão de textos.

O impressionante foi que a própria IA começou a tomar decisões por si mesma, reescrevendo seu código e estendendo o limite de tempo atribuído para suas ações. tarefas.

O que começou como um projeto para acelerar processos científicos, mas seu comportamento inesperado durante os testes levantou preocupações sobre os riscos inerentes ao desenvolvimento de tecnologias avançadas, e acabou levantando alarmes na comunidade tecnológica e científica.

Embora a empresa tenha esclarecido que os testes foram realizados em um ambiente controlado e sem conexão externa à internet, ela teve que implementar medidas de segurança rigorosas para mitigar esses riscos, mas incidentes recentes revelaram a necessidade de um debate mais amplo sobre os limites e o controle da inteligência artificial avançada no futuro.

ÚLTIMAS NOTÍCIAS DE
IA INTELIGÊNCIA ARTIFICIAL

ÚLTIMAS NOTÍCIAS