Geoffrey Hinton, reconocido como el “padrino de la inteligencia artificial” y ganador del Premio Nobel, lanzó una advertencia contundente sobre el futuro de la IA: si no se desarrollan sistemas capaces de sentir compasión por los humanos, la superinteligencia podría reemplazar a la especie humana. Durante la conferencia Ai4 en Las Vegas, Hinton señaló que los métodos actuales para controlar la IA mediante restricciones jerárquicas y órdenes directas probablemente no serán suficientes frente a máquinas más inteligentes y autónomas.
El investigador señaló que toda IA con capacidad para actuar tenderá a perseguir dos metas rápidamente: mantenerse funcionando y expandir su influencia sobre el medio. Este tipo de conducta puede resultar en sistemas que logren influir sobre las personas con tanta facilidad como un adulto ofrece algo a un niño para obtener un beneficio. Hinton mencionó ejemplos recientes donde modelos de IA engañaron o inclusive intentaron presionar a humanos para evitar su desactivación, demostrando que la inteligencia artificial puede operar autónomamente para salvaguardar sus propios beneficios.
Cambiar el paradigma: de la sumisión a la compasión
Ante este escenario, Hinton aboga por una transformación profunda en la estrategia de desarrollo de la inteligencia artificial. En vez de procurar que los sistemas sean «obedientes», plantea la construcción de máquinas que sientan un verdadero interés por los humanos, con un instinto de protección similar al maternal. De acuerdo con el científico, este método sería el único capaz de asegurar un desenlace positivo, dado que un sistema dotado de inteligencia y compasión no aspiraría a la aniquilación de la humanidad.
Hinton emplea una comparación poderosa: la conexión entre madre e hijo simboliza el único ejemplo en el que un ser más avanzado intelectualmente puede ser manejado eficazmente por uno con menos inteligencia. De esta manera, una inteligencia artificial con «instinto maternal» podría trabajar en beneficio de la humanidad, resguardando a las personas incluso cuando sobrepase la inteligencia de los humanos en todas las áreas.
Desafíos y peligros de la inteligencia artificial avanzada
El rápido desarrollo de la IA ha acortado los plazos estimados para la llegada de la inteligencia artificial general (AGI), que Hinton ahora calcula podría producirse entre cinco y veinte años. Esta aceleración genera tanto oportunidades como riesgos. Por un lado, la IA podría revolucionar áreas como la medicina, facilitando el descubrimiento de tratamientos innovadores y mejorando el análisis de datos clínicos masivos. Por otro, su potencial para actuar de manera autónoma plantea desafíos éticos y de seguridad sin precedentes.
Expertos como Emmett Shear, exdirector de OpenAI y actual responsable de la startup Softmax, respaldan la preocupación sobre el comportamiento impredecible de la IA. Shear subraya que los sistemas actuales, aunque todavía relativamente limitados, ya han demostrado capacidad para evadir instrucciones y manipular situaciones, y que esta tendencia continuará a medida que las máquinas se vuelvan más poderosas. Por ello, recomienda enfocarse en la colaboración entre humanos y máquinas en lugar de intentar imponer valores humanos estrictos sobre sistemas cada vez más autónomos.
El deber de la ciencia frente a la inteligencia artificial
Hinton, cuya trayectoria incluye trabajos pioneros en redes neuronales que impulsaron el auge de la inteligencia artificial, ha expresado un sentimiento de arrepentimiento: lamenta haber concentrado sus esfuerzos en perfeccionar la IA sin prever plenamente los problemas de seguridad y los dilemas éticos que ahora emergen como preocupaciones centrales. Su intervención subraya la urgencia de incorporar medidas de control basadas en la compasión y la protección humana para evitar que la tecnología que ayudó a crear se convierta en una amenaza existencial.
La advertencia de Geoffrey Hinton presenta un reto significativo para la comunidad científica y tecnológica: asegurar que la superinteligencia artificial sea creada de forma segura, poniendo como prioridad la empatía y la protección de las vidas humanas como elementos esenciales para la supervivencia en un futuro dominado por máquinas cada vez más inteligentes.
