Las IA más avanzadas obedecen instrucciones ocultas que ocupan menos del 1% de un documento (opens in new tab)

Investigadores de Cloudflare comprobaron que varios de los modelos de IA más avanzados pueden ser manipulados mediante instrucciones ocultas dentro de páginas web, correos o documentos. En algunos casos, bastaba con que el contenido malicioso representara menos del 1% del texto para alterar el comportamiento del sistema. El estudio plantea dudas sobre la seguridad de los agentes autónomos. Más noticias sobre IA y tecnología en mi perfil.etiquetas: ia, inteligencia artificial, chatgpt, claude,...