Jacob Coxon, quien trabajó como investigador en Anthropic y anteriormente pasó por OpenAI, habló con la BBC después de abandonar la compañía y expuso su preocupación por el ritmo al que avanza la inteligencia artificial.
(Vea también: OpenAI afirma haber resuelto el problema matemático de Navier-Stokes y desata controversia en la comunidad científica)
Según explicó, dentro de las empresas que desarrollan esta tecnología existe un temor que no siempre se expresa públicamente. El investigador sostuvo que algunos trabajadores están preocupados por las consecuencias que podría tener una carrera acelerada por crear sistemas cada vez más avanzados.
Coxon llegó a plantear que, si no se modifica el ritmo actual de desarrollo, existe una posibilidad importante de que la inteligencia artificial termine provocando una catástrofe para la humanidad.
El exinvestigador también aseguró que algunos empleados estarían pensando incluso en cómo cambiar sus vidas ante un eventual escenario de inestabilidad provocado por los avances de la tecnología.
Entre las situaciones que mencionó están personas que contemplan comprar terrenos en lugares apartados debido al temor que les genera el futuro de la inteligencia artificial.
Coxon, sin embargo, no presentó únicamente un escenario negativo. También señaló que quienes trabajan en este campo quieren que la tecnología tenga efectos positivos y pueda contribuir, por ejemplo, al tratamiento de enfermedades y a mejorar la calidad de vida.
¿Qué podría pasar si la inteligencia artificial sigue avanzando?
Una de las preocupaciones planteadas por Coxon a BBC está relacionada con sistemas capaces de operar de manera cada vez más autónoma y coordinar grandes cantidades de recursos digitales.
En sus declaraciones a ese medio, el investigador habló de un escenario en el que un conjunto de programas o agentes de inteligencia artificial pudiera funcionar de manera coordinada y llegar a afectar servicios de Internet.
Según su apreciación, un escenario de ese tipo podría materializarse en un plazo de entre seis meses y un año, aunque se trata de una advertencia formulada por él y no de una predicción científica consensuada.
La preocupación también ha sido expresada por otras personas vinculadas al sector. Evan Hubinger, investigador de Anthropic especializado en seguridad y alineación de sistemas de IA, ha planteado públicamente un cálculo personal sobre el riesgo de que la tecnología provoque la extinción humana durante la próxima década.
El científico Geoffrey Hinton, una de las figuras más reconocidas de la investigación en inteligencia artificial, también ha considerado que discutir un riesgo de ese nivel no resulta absurdo.
Anthropic respondió a las advertencias de su antiguo investigador
Ante las declaraciones de Coxon, Anthropic defendió ante la BBC el trabajo que adelanta para reducir los riesgos asociados con sus modelos.
La compañía señaló que reconoce tanto los posibles beneficios de la inteligencia artificial como los riesgos que puede causar y aseguró que trabaja en medidas de seguridad para sus sistemas.
Anthropic también destacó sus investigaciones sobre el comportamiento de los modelos y los mecanismos utilizados para evaluar posibles problemas de alineación, término empleado en el sector para referirse a que los sistemas actúen de acuerdo con los objetivos y límites establecidos por los seres humanos.
El debate, además, no se limita a Coxon. El director ejecutivo de Anthropic, Dario Amodei, ha planteado recientemente la necesidad de desacelerar el ritmo de desarrollo de la IA para darles más tiempo a las empresas y gobiernos de implementar mecanismos de seguridad. La propuesta ha recibido respaldo de otros líderes tecnológicos, aunque también ha generado cuestionamientos dentro del sector.
Algunas figuras de la industria consideran exageradas las advertencias sobre una eventual extinción humana y cuestionan las motivaciones detrás de los llamados a regular o ralentizar el desarrollo.
Ese contraste es precisamente uno de los elementos centrales de la discusión actual: mientras investigadores como Coxon advierten que la carrera por crear sistemas más poderosos podría generar riesgos difíciles de controlar, otros representantes de la industria consideran que algunas de esas alertas están sobredimensionadas.
Por ahora, no existe consenso sobre la posibilidad de que la inteligencia artificial llegue a provocar un escenario de extinción humana. Lo que sí existe es un debate cada vez más abierto dentro de la propia industria sobre hasta dónde debería llegar la velocidad de desarrollo de esta tecnología y qué controles deberían acompañarla.
* Pulzo.com se escribe con Z
LO ÚLTIMO
.svg)
