Jacob Coxon, exinvestigador de OpenAI y Anthropic, encendió nuevamente el debate sobre los riesgos de la inteligencia artificial después de renunciar y acusar a ambos laboratorios de avanzar demasiado rápido hacia sistemas cada vez más poderosos.
Coxon trabajó directamente en el desarrollo de modelos avanzados y aseguró que su principal preocupación es la carrera por crear una superinteligencia capaz de superar ampliamente las capacidades humanas.
Según su postura, el problema no está únicamente en desarrollar sistemas más potentes, sino en hacerlo sin tener completamente resuelto cómo controlarlos o garantizar que sus objetivos permanezcan alineados con los intereses humanos.
El exinvestigador sostiene que compañías como OpenAI y Anthropic continúan avanzando porque ninguna quiere frenar primero y correr el riesgo de quedarse atrás frente a sus competidores.
Su advertencia no es aislada. Otros investigadores dentro de la industria también han expresado preocupación por escenarios en los que sistemas futuros puedan superar la capacidad humana de supervisión y provocar consecuencias graves.
Hasta ahora no existe evidencia que permita afirmar que una inteligencia artificial vaya a destruir a la humanidad ni que una superinteligencia de ese nivel esté garantizada.
Sin embargo, el caso de Coxon ha llamado la atención porque las advertencias comienzan a surgir desde dentro de algunos de los laboratorios que desarrollan los modelos más avanzados del mundo.
La discusión, entonces, ya no gira únicamente en torno a qué tan poderosa puede llegar a ser la inteligencia artificial, sino a si las empresas están avanzando más rápido de lo que evolucionan las medidas necesarias para mantenerla bajo control.
Leave a Reply