La IA tiene efectos negativos, pero sus beneficios lo justifican, dice el CEO de OpenAI
Sam Altman advierte que la IA traerá efectos negativos, pero considera que aceptar ciertos riesgos permitirá aprovechar sus beneficios.
El desarrollo de la inteligencia artificial traerá avances, pero también puede generar efectos negativos. Sam Altman, CEO de OpenAI, consideró que la sociedad tendrá que aceptar determinados riesgos para aprovechar los beneficios de esta tecnología y mantener la autonomía de las personas.
En una entrevista con Decoded de Politico, el directivo explicó su postura frente al desarrollo de la IA y marcó diferencias con Anthropic, uno de los laboratorios que también trabaja en modelos avanzados de inteligencia artificial.
Altman señaló que no estaría dispuesto a renunciar a los beneficios de la tecnología con el objetivo de impedir por completo situaciones como ciberataques, estafas o usos indebidos de la inteligencia artificial, debido a que considera que estos acontecimientos ocurrirán.
Que el mundo debería aceptar ciertos aspectos negativos a cambio de los beneficios de esta tecnología y de que las personas tengan autonomía", dijo.
Sam Altman marca distancia con Anthropic
Las diferencias entre OpenAI y Anthropic también se mantienen en torno a la regulación y el control de la inteligencia artificial.
Altman cuestionó la posibilidad de que el control de esta tecnología quede concentrado en un solo laboratorio. Su crítica se relaciona con la postura que atribuye a Anthropic sobre la necesidad de establecer mayores controles ante el desarrollo de sistemas cada vez más capaces.
El CEO de OpenAI señaló que entiende la posición de quienes consideran que una tecnología tan potente y peligrosa debería estar bajo el control de un único laboratorio para evitar consecuencias negativas y administrar la distribución de sus beneficios.
Sin embargo, dijo no estar de acuerdo con esa visión.
Las diferencias entre ambos laboratorios se producen después de que sus posiciones en materia de regulación y seguridad de los modelos se acercaran durante los últimos meses.
OpenAI y Anthropic también participaron recientemente en esfuerzos relacionados con limitar el desarrollo de determinadas capacidades de la inteligencia artificial.
OpenAI no descarta los riesgos de la IA
Altman sostuvo que las personas utilizarán la inteligencia artificial para realizar acciones positivas en una proporción mucho mayor que para actividades perjudiciales.
Dentro de los posibles efectos negativos mencionó los ciberataques, las estafas y otros usos indebidos de la tecnología.
Su postura no significa que descarte todos los riesgos asociados con el desarrollo de la IA. El directivo estableció una diferencia entre los efectos negativos que considera inevitables y aquellos que podrían representar un riesgo catastrófico.
Entre estos últimos ubicó una pérdida grave de control sobre la inteligencia artificial, escenario que, según sus declaraciones, no acepta como un riesgo que deba asumirse a cambio de obtener los beneficios de la tecnología.
Anthopic limita sus propuestas regulatorias
Tras las declaraciones de Altman, un portavoz de Anthropic consultado por Politico señaló que las propuestas regulatorias de la compañía están dirigidas únicamente a los modelos de inteligencia artificial de vanguardia.
De esta manera, el debate entre ambos laboratorios continúa alrededor del nivel de regulación que debería aplicarse al desarrollo de sistemas avanzados de IA y sobre quién debería establecer los límites para su utilización.
No estoy de acuerdo, pero entiendo la perspectiva de quienes piensan algo como: 'Esta tecnología va a ser tan potente y es tan peligrosa que un solo laboratorio en San Francisco debería poseerla y asegurarse de que no pase nada malo, administrando de algún modo cómo repartir sus beneficios'", señaló Altman.
Con información de Europa Press.