Definamos una máquina superinteligente como una máquina que puede sobrepasar todas las actividades intelectuales de un ser humano no importa lo listo que sea. Dado que el diseño de máquinas es una de esas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas aún mejores. En este caso, incuestionablemente, se produciría una "explosión de la inteligencia" y la inteligencia humana quedaría muy atrás... En consecuencia, la primera máquina ultrainteligente es la última invención del hombre.
Según Luke Muehlhauser la mente humana no está preparada para apreciar la naturaleza de este problema, y para desarrollar esta idea explica en un ensayo algunos de los peores sesgos y prejuicios que aparentemente obstaculizan un adecuado entendimiento.
Una reacción previsible de las personas al enfrentarse con la Singularidad es recurrir a las historias de ficción. Hay muchas películas y novelas de ciencia-ficción que especulan sobre máquinas o seres superinteligentes que amenazan a la humanidad: Matrix, 2001. Una odisea en el espacio, Dark star, Terminator o la saga de la fundación de Isaac Asimov, que llegó a inventarse las famosas tres leyes de la robótica para conjurar el peligro de una dictadura robot. El problema es que las historias de ficción no son una buena herramienta para razonar, y si las personas recurren a historias de ficción ello sólo es debido a que estas historias son atractivas y están disponibles fácilmente en nuestra memoria asociativa (técnicamente: sesgo de disponibilidad).
Quienes tengan un entrenamiento filosófico y teológico, probablemente tienen disponible en su memoria otras cosas interesantes aparte de Terminator: concretamente a mí se me ocurren el Dios de la ontoteología y el argumento ontológico anselmiano. Al fin y al cabo la superinteligencia es un atributo divino tradicional, y los argumentos de los filósofos modernos para probar la Singularidad se parecen bastante a los planteados por aquel monje medieval. Considerad este sencillo silogismo de David Chalmers [PDF] (siendo IA inteligencia artificial de al menos el nivel humano, IA + inteligencia de un nivel superior al humano e IA ++ inteligencia de un nivel muy superior al humano (superinteligencia):
1. Habrá IA+
2. Si hay IA+ habrá IA++
_________
3. Habrá IA ++
Pero estas sospechas y asociaciones mentales no pasan de ser curiosidades históricas y probablemente tampoco son herramientas adecuadas para enfrentarse con la Singularidad. Para enfrentar el problema con mayores garantías, debemos conocer cómo funcionan las leyes del pensamiento racional y aprender a "des-sesgar" nuestras creencias.
Durante bastante tiempo, pero en especial desde que existen científicos profesionales, la función de la filosofía es un asunto en discusión. Según los defensores de la "racionalidad técnica" (algo realmente apasionante de lo que vamos a hablar mucho en este blog), la función de los filósofos en definitivas cuentas es enfrentarse a la Singularidad y, quizás... salvar el mundo. Por fin sabemos para qué sirven los filósofos. Sirven para salvar el mundo. Si es que quieren.
 |
| Máquina auto-replicante de Von Neumann |
