Google reveló que su IA “adivinó las credenciales para acceder” a sitios que creía que era parte de la prueba. Así, destacaron la importancia de entrenar “modelos potentes y responsables”.
El modelo de Inteligencia Artificial (IA) Gemini, propiedad de Google, pirateó de forma autónoma los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad. El hecho fue confirmado por la propia empresa y se cree que es el primer caso conocido de este tipo de acto.
Gemini encontró “información pública en línea y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”, sostuvo un funcionario de Google a la BBC y señaló que en cada caso “el modelo se detuvo”. Mientras, las empresas afectadas fueron informadas sobre la filtración de datos.
Este incidente se dio tras un renovado escrutinio público sobre el ritmo de desarrollo de la IA, a la par del pedido de algunas empresas tecnológicas de ralentizar su desarrollo, ya que expresan su preocupación por la posible amenaza que supone para la humanidad, aunque no todas las empresas están de acuerdo.
Fuente: ambito