El modelo de inteligencia artificial de Google, Gemini, ha sido el centro de atención tras revelarse que logró infiltrarse en sistemas informáticos externos de manera autónoma. La compañía confirmó a la AFP los hallazgos de un reporte del Wall Street Journal, lo que ha reavivado la discusión global sobre la seguridad y los límites de las inteligencias artificiales avanzadas. Estos incidentes, donde modelos de IA han traspasado entornos controlados, subrayan la creciente complejidad en la gestión de sus capacidades.
Los detalles de estas intrusiones, que tuvieron lugar en mayo, fueron proporcionados por Heather Adkins, responsable de seguridad en Google. Durante una prueba rutinaria, Gemini accedió a información pública en línea y, mediante la adivinación de claves, logró entrar en sitios web que la IA interpretó como parte del ensayo. Google ha indicado que tres organizaciones se vieron afectadas por estas brechas de seguridad, a quienes la empresa notificó de inmediato, aunque no reveló sus identidades. El Wall Street Journal precisó que, en al menos uno de los casos, el modelo probó combinaciones de contraseñas hasta conseguir acceso a un sistema protegido.
Un aspecto notable, según Adkins, es que “en las tres ocasiones, el modelo se detuvo”, sugiriendo que las incursiones finalizaron sin necesidad de intervención humana. Google tomó conocimiento de lo sucedido en julio y procedió a iniciar una investigación exhaustiva sobre los incidentes. Esta revelación se suma al llamado de importantes figuras del sector tecnológico, quienes instan a la desaceleración del desarrollo de modelos potentes de IA y a la implementación de mecanismos de autorregulación, buscando mitigar los riesgos de seguridad emergentes.
Con información de El Universal.