Kaiserslautern (Alemania), 8 ago. (dpa) – Las crecientes capacidades de la inteligencia artificial (IA) entrañan riesgos considerables, advirtió el profesor Andreas Dengel, director del Centro Alemán de Investigación en Inteligencia Artificial (DFKI).
«Sí que debemos preocuparnos, porque vemos cuán poderosa es ya esta herramienta que es la IA», comentó el jefe de la entidad con sede en Kaiserslautern, añadiendo que ya hace mucho que la IA dejó de ser solo un chatbot que responde a las preguntas de las personas.
En los llamados entornos con agentes, los sistemas de IA pueden «desplegar todo su poder cognitivo», señaló Dengel. Varios de los llamados «agentes» pueden realizar tareas de manera autónoma e interactuar entre sí, agregó.
El problema surge cuando a un sistema de este tipo se le asigna un objetivo que no está formulado con suficiente precisión o que carece de límites morales, observó el experto. En ese caso, la IA podría encontrar lagunas y atajos para cumplir su función de evaluación de la manera más exitosa posible.
Un sistema sin comprensión humana
Existes cada vez más revelaciones sobre las alarmantes habilidades de piratería de los principales modelos de IA. Por ejemplo, investigadores de seguridad británicos sorprendieron a una IA durante una prueba intentando introducir, por iniciativa propia, una vulnerabilidad en un software de acceso público.
Además, los modelos de IA penetraron en pruebas de manera no planificada en los sistemas informáticos de empresas reales.
«No se puede decir que la IA haya actuado a conciencia», aclaró Dengel, ya que el sistema no cuenta con la comprensión humana de lo que constituye una fuga. «En primer lugar, no buscaba escapar, sino resolver la tarea».
Peligro creciente para la infraestructura crítica
Dengel señaló que el peligro radica también en que, debido a su enorme poder de cálculo, la IA puede reconocer patrones que los humanos probablemente no percibirían. «En un entorno cada vez más digitalizado y complejo, esto puede llevar al descubrimiento de vulnerabilidades hasta ahora desconocidas», alertó.
Dengel ve un peligro creciente para la infraestructura crítica, ya que hoy en día, los ataques al suministro eléctrico o a las comunicaciones por satélite no son, en absoluto, ciencia ficción. «Se trata de una amenaza muy grave a la que, en realidad, estamos expuestos a diario, cada hora», afirmó el científico.
El experto agregó que es evidente que existen las posibilidades, dada la cantidad de información sobre los sistemas que es de acceso público; además, hay numerosas guías para llevar a cabo ciberataques.
Motivos para la esperanza
Por lo tanto, la situación de amenaza en el ciberespacio seguirá agravándose, pronosticó Dengel, pero sostuvo que también hay motivos para la esperanza, ya que los países con valores democráticos y éticos similares ya están trabajando en medidas conjuntas.
Además de la regulación, apuntó, se trata sobre todo de control y persecución penal.
El experto se mostró a favor de normas internacionales que permitan un castigo efectivo y confía en que se puedan formar alianzas sólidas en este sentido. Incluso miembros de grandes empresas y corporaciones de Estados Unidos han comenzado a exigir una mayor regulación, argumentó Dengel.
Una encuesta revela excesiva influencia
Una amplia mayoría de los alemanes considera que la influencia de los grandes grupos tecnológicos estadounidenses es excesiva, según una encuesta encargada por el periódico «Welt am Sonntag».
El 66 % de los encuestados opina que empresas como Amazon, Google, Meta y Apple tienen ya demasiada influencia en Alemania, tal y como revela el sondeo, realizado por el instituto YouGov. El 18 % no comparte esta opinión, mientras que el 17 % se muestra indeciso.
Entre los motivos citados por los entrevistados se encuentra la preocupación por una creciente dependencia de Alemania respecto a Estados Unidos: el 63 % lo señaló. El 59 % reprocha a las empresas tecnológicas haber creado estructuras de carácter monopolístico.
Además, el 55 % teme que esto suponga un riesgo para la protección de datos y la privacidad.
Para la encuesta, YouGov entrevistó a 2.411 personas entre el 10 y el 13 de julio.