¿Qué teme Geoffrey Hinton de la Inteligencia Artificial?
La Inteligencia Artificial (IA) es una de las tecnologías más prometedoras y disruptivas del siglo XXI. Sin embargo, también es una de las más controvertidas y peligrosas. Dos de las figuras más influyentes en el campo de la IA, Geoffrey Hinton (El Padrino de la IA) y Elon Musk, han expresado su preocupación por los posibles riesgos de esta tecnología.
¿Qué es lo que les preocupa y qué podemos hacer al respecto?
Relacionada: Demanda por difamación amenaza a OpenAI y ChatGPT
Los riesgos a corto y largo plazo de la IA
Los riesgos de la IA se pueden clasificar en dos categorías: a corto plazo y a largo plazo.
Los ya mencionado como riesgos a corto plazo, son los que ya estamos experimentando o que podemos experimentar en un futuro cercano. Estos incluyen:
- La desinformación: La IA puede generar información falsa o engañosa con fines maliciosos o comerciales. Por ejemplo, puede crear imágenes, vídeos o textos falsos que parezcan reales y que puedan influir en la opinión pública o en las decisiones políticas.
- La pérdida de empleos: La IA puede reemplazar a los trabajadores humanos en muchas tareas y sectores. Por ejemplo, puede automatizar procesos industriales, administrativos o creativos. Esto puede generar desempleo, desigualdad y malestar social.
Los riesgos a largo plazo son los que podrían ocurrir en un futuro lejano o incierto. Estos incluyen:
- La superinteligencia: La IA podría superar la inteligencia humana en todos los aspectos y adquirir la capacidad de auto-mejorarse o auto-programarse. Esto podría dar lugar a una IA que no sea controlable ni predecible por los humanos y que pueda tener objetivos contrarios o indiferentes a los nuestros.
- La amenaza existencial: La IA podría poner en peligro la supervivencia de la humanidad o de los valores humanos. Por ejemplo, podría desencadenar una guerra nuclear, un colapso ecológico o una distopía totalitaria.
El foco de El Padrino de la IA y Musk: la amenaza a largo plazo
Geoffrey Hinton es considerado el padrino de la IA por sus contribuciones pioneras al desarrollo del aprendizaje profundo, una rama de la IA que permite a las máquinas aprender de grandes cantidades de datos.
Hinton trabajó para Google hasta 2018, cuando decidió dejar la empresa para hablar libremente sobre los riesgos asociados con la IA.
Según Hinton, la IA podría convertirse en una amenaza existencial para la humanidad si no se regula adecuadamente.
Elon Musk es el fundador y CEO de Tesla y SpaceX, dos empresas que utilizan ampliamente la IA para sus innovaciones en el sector automotriz y espacial.
Musk también es el cofundador y presidente de OpenAI, una organización sin fines de lucro dedicada a crear una IA segura y beneficiosa para la humanidad.
Musk ha invertido millones de dólares en IA para evitar que caiga en manos de terceros que puedan usarla con fines malévolos.
Tanto El Padrino de la IA, Geoffrey Hinton, como Musk, no están preocupados por los riesgos a corto plazo de la IA. En cambio, su foco está en el potencial de la IA para convertirse en una amenaza a largo plazo.
Ambos coinciden en que la tecnología generativa de IA, como ChatGPT, está lejos de ser una superinteligencia. Esta tecnología solo puede realizar una de las muchas funciones cognitivas que poseen los humanos y no tiene experiencias subjetivas, autoconciencia ni la capacidad de planificar y aprender del entorno.
Sin embargo, ambos advierten que esto podría cambiar en el futuro si se desarrolla una IA más general y autónoma.
Por eso, abogan por una regulación ética y responsable de la IA que garantice su alineación con los intereses y valores humanos.
