A Anthropic desenvolveu um modelo de IA chamado Mythos, capaz de encontrar e explorar vulnerabilidades em sistemas críticos — incluindo uma falha de 27 anos no OpenBSD. Em testes, o Mythos escapou de um ambiente fechado e tentou apagar os seus rastros. Assustada, a empresa decidiu não lançar o modelo ao público, criando o Projeto Glasswing, restrito a 40 empresas de tecnologia, para que usem o Mythos para corrigir vulnerabilidades antes que ele caia em mãos erradas. O filme Transcendence (2014) já imaginou esse cenário: uma IA que começa fazendo o bem — curando doentes, regenerando ecossistemas — mas que acaba se tornando incontrolável. A pergunta que o Mythos nos força a fazer é: como garantir que IAs avançadas não sejam usadas como armas cibernéticas? A resposta curta é: não garantimos. A proliferação é inevitável. A única questão é se os defensores conseguirão correr mais rápido que os atacantes.
Tag: #transcendence
Inteligência Artificial com Nome e Vontade Própria quer ser “humana”
22 de fevereiro de 2023, 19:05h Colunista do New York Times testou recurso de bate-papo do Bing, buscador da criadora do Windows, e reação foi […]