Postura de que IA podría acabar con la humanidad es marketing; tecnológicas buscan beneficios
Académicos y expertos de la Ibero afirman que los agentes no han tomado consciencia ni son autónomos
La postura de las grandes tecnológicas de que la inteligencia artificial podría acabar con la humanidad en los próximos años es una estrategia de marketing y política para obtener mayores beneficios a largo plazo, coincidieron expertos de la Universidad Iberoamericana Ciudad de México.
“El gran problema que estamos en una carrera hacia quién tiene el mejor modelo, quién logra ganarle al otro, etcétera. Eso genera problemas éticos, por esa carrera por el resultado y no por pensar hacia dónde queremos llevar la inteligencia artificial”, consideró el director del Departamento de Estudios en Ingeniería para la Innovación, Andrés Molano.
Durante la mesa ¿Una IA que se gobierne a sí misma?, aceptó que es válido que los desarrolladores dentro de esas compañías tengan incertidumbre de no poder entender o controlar lo que están generando.
Sin embargo, es posible que ese “miedo” sea aprovechado como una estrategia de mercadeo para que los líderes del sector actuales traten de mantener el control del mercado y generar restricciones para nuevos competidores, además que ya no hay grandes inversiones para ellos.
Molano recordó que incluso el fundador y CEO de Nvidia, Jensen Huang, destacó que hay un problema de propósito de esta tecnología.
“Hay que darle un sentido a lo que estamos desarrollando y no simplemente debemos tener la mejor inteligencia artificial porque sí, debe ser la mejor para que seamos cada vez una mejor sociedad, un mejor mundo”, agregó.
Alexandro López, coordinador de Ingeniería en Inteligencia Artificial, coincidió con Molano en que se trata de una estrategia de mercado o especulación el señalar que la IA ha tomado el control en ciberataques, sin orden de los desarrolladores.
“Si convences a los gobiernos de que la tecnología es tan peligrosa, como si fuera material nuclear, logras que las empresas multimillonarias sean las únicas que puedan acceder a estas restricciones. Entonces, cualquier startup que tome un modelo gratuito chino no va a poder pagar o ir en contra de estas regulaciones, pagar todos los trámites, entonces no va a salir y se va a mantener una hegemonía, un dominio completo las que ya lo usan, las que conocemos”, resaltó.
Lo que toma especial relevancia considerando el marco geopolítico, ya que la carrera se está dando entre Estados Unidos y China, éste último incluso con restricciones de procesadores y comerciales.
No toma consciencia
López añadió que los sistemas de inteligencia artificial no te quieren matar, ni se están volviendo rebeldes, son un reflejo estadístico de los datos con los que fueron construidos.
Por eso, consideró que el reto actual de los desarrolladores no es evitar que la inteligencia artificial cobre consciencia o domine a la humanidad, sino controlar la probabilidad matemática de que un sistema automatizado tome decisiones erróneas basadas en datos “sucios o malos”.
Incluso, afirmó que dicha tecnología no es capaz de rediseñarse a sí misma, el peligro es la dependencia estadística lo que puede generar errores.
Ante esto, el director del Departamento de Estudios en Ingeniería para la Innovación cree que se necesita una auditoría externa, realizada por la comunidad científica, para las empresas que desarrollan inteligencia artificial.
“Cuando publicas un modelo de inteligencia artificial para que cualquier persona lo pueda usar y lo pueda evaluar, ahí es cuando se puede detectar sus capacidades, ahí es cuando podemos realmente tener conocimiento de lo que sirve o de lo que hace”, comentó Molano.
Por lo mismo, concordó con China en que se necesitan modelos de inteligencia artificial abiertos, inclusivos, accesibles y orientados al bien.
Ambos expertos de la Ibero agregaron que aquellos miembros de la comunidad científica en el mundo que trabajen como auditores deben hacerlo sin tener relación monetaria con las grandes tecnológicas para una mayor credibilidad.
