El verdadero objetivo de la IA puede que ya no sea la inteligencia
The true objective of AI may no longer be intelligence
La IA ha estado encontrando rápidamente aplicaciones industriales, como el uso de grandes modelos de lenguaje para automatizar las TI empresariales. Esas aplicaciones pueden hacer que la cuestión de la inteligencia real sea irrelevante.
El matemático británico Alan Turing escribió en 1950: “Propongo considerar la pregunta, ‘¿Pueden las máquinas pensar?'” Su investigación enmarcó la discusión durante décadas de investigación en inteligencia artificial.
Para varias generaciones de científicos que contemplaban la IA, la pregunta de si se podía lograr una inteligencia “verdadera” o “humana” siempre fue una parte importante del trabajo.
La IA puede estar ahora en un punto de inflexión donde tales preguntas importan menos y menos para la mayoría de las personas.
También: Los mejores chatbots de IA: ChatGPT y alternativas para probar
- Estos son los productos más antiguos de Apple que todavía se venden...
- Google presenta 11 nuevas características de seguridad para Workspa...
- Giro inesperado Netflix permite a los suscriptores quedarse con DVD...
La aparición de algo llamado IA industrial en los últimos años puede señalar el fin de tales preocupaciones elevadas. La IA tiene hoy más capacidad que en cualquier otro momento de los 66 años desde que el término IA fue acuñado por el científico de la computación John McCarthy. Como resultado, la industrialización de la IA está desplazando el enfoque de la inteligencia al logro.
Esos logros son notables. Incluyen un sistema que puede predecir el plegamiento de proteínas, AlphaFold, de la unidad DeepMind de Google, y el programa de generación de texto GPT-3 de la startup OpenAI. Ambos programas tienen un gran potencial industrial, independientemente de si alguien los llama inteligentes.
También: Cómo usar ChatGPT: Todo lo que necesitas saber
Entre otras cosas, AlphaFold promete el diseño de nuevas formas de proteínas, una perspectiva que ha electrificado a la comunidad de biología. GPT-3 se está posicionando rápidamente como un sistema que puede automatizar tareas empresariales, como responder consultas de empleados o clientes por escrito sin intervención humana.
Ese éxito práctico, impulsado por un prolífico campo de semiconductores liderado por el fabricante de chips Nvidia, parece que podría superar la antigua obsesión por la inteligencia.
En ningún rincón de la IA industrial parece importar si tales programas lograrán la inteligencia. Es como si, frente a logros prácticos que demuestran un valor obvio, la antigua pregunta, “¿Pero es inteligente?” dejara de importar.
También: El crítico de IA Gary Marcus: LeCun de Meta finalmente está llegando a las cosas que dije hace años
Como ha escrito el científico de la computación Hector Levesque, cuando se trata de la ciencia de la IA versus la tecnología, “Desafortunadamente, es la tecnología de la IA la que acapara toda la atención”.
Por supuesto, la cuestión de la inteligencia genuina sigue siendo importante para un puñado de pensadores. En el último mes, ENBLE ha entrevistado a dos destacados académicos que se preocupan mucho por esa pregunta.
Yann LeCun, científico jefe de IA de Meta, propietaria de Facebook, habló extensamente con ENBLE sobre un artículo que publicó este verano como una especie de reflexión sobre hacia dónde debe dirigirse la IA. LeCun expresó su preocupación de que el trabajo dominante del aprendizaje profundo hoy, si simplemente continúa su curso actual, no logrará lo que él llama una inteligencia “verdadera”, que incluye cosas como la capacidad de un sistema informático para planificar una acción utilizando el sentido común.
También: Esta nueva tecnología podría superar a GPT-4 y todo lo similar
LeCun expresa la preocupación de un ingeniero de que sin una inteligencia verdadera, dichos programas finalmente resultarán frágiles, es decir, podrían romperse antes de hacer lo que queremos que hagan.
“Sabes, creo que es totalmente posible que tengamos autos autónomos de Nivel 5 sin sentido común”, dijo LeCun a ENBLE, refiriéndose a los esfuerzos de Waymo y otros por construir sistemas ADAS (sistemas avanzados de asistencia al conductor) para la conducción autónoma, “pero tendrás que ingeniarlo de la mejor manera posible”.
Y Gary Marcus, profesor emérito de la NYU y crítico frecuente del aprendizaje profundo, le dijo a ENBLE este mes que la IA como campo está estancada en cuanto a encontrar algo similar a la inteligencia humana.
“No quiero discutir si es o no inteligencia”, dijo Marcus a ENBLE. “Pero la forma de inteligencia que podríamos llamar inteligencia general o inteligencia adaptativa, me importa la inteligencia adaptativa […] No tenemos máquinas así”.
Yann LeCun de Meta (derecha) y el crítico de IA Gary Marcus.
Cada vez más, las preocupaciones tanto de LeCun como de Marcus parecen anticuadas. Los profesionales de la IA industrial no quieren hacer preguntas difíciles, simplemente quieren que las cosas funcionen sin problemas. A medida que más y más personas tienen acceso a la IA, como científicos de datos e ingenieros de autos autónomos, personas alejadas de las preguntas científicas fundamentales de la investigación, la pregunta “¿Pueden las máquinas pensar?” se vuelve menos relevante.
Incluso los científicos que reconocen las limitaciones de la IA se sienten tentados a dejar eso de lado para disfrutar de la utilidad práctica de la tecnología.
También: Usé ChatGPT para escribir la misma rutina en estos diez lenguajes de programación oscuros
Un académico más joven que Marcus o LeCun, pero consciente de la dicotomía entre lo práctico y lo profundo, es Demis Hassabis, cofundador de DeepMind.
En una charla en 2019 en el Instituto de Estudios Avanzados en Princeton, Nueva Jersey, Hassabis señaló los límites de muchos programas de IA que solo podían hacer una cosa bien, como un idiota savant. DeepMind, dijo Hassabis, está tratando de desarrollar una capacidad más amplia y rica. “Estamos tratando de encontrar una meta-solución para resolver otros problemas”, dijo.
Y sin embargo, Hassabis está igualmente enamorado de las tareas particulares en las que sobresale la última invención de DeepMind.
También: Cómo usar ChatGPT para escribir fórmulas de Excel
Cuando DeepMind presentó recientemente una forma mejorada de realizar álgebra lineal, las matemáticas en el corazón del aprendizaje profundo, Hassabis elogió el logro independientemente de cualquier afirmación de inteligencia.
“Resulta que todo es una multiplicación de matrices, desde gráficos por computadora hasta el entrenamiento de redes neuronales”, escribió Hassabis en Twitter. Quizás eso sea cierto, pero plantea la posibilidad de descartar la búsqueda de la inteligencia a favor de simplemente refinar una herramienta, como si dijera: si funciona, ¿por qué preguntar por qué?
El campo de la IA está experimentando un cambio de actitud. Solía ser el caso que cada logro de un programa de IA, por bueno que fuera, se recibía con el comentario escéptico de “Bueno, pero eso no significa que sea inteligente”. Es un patrón que la historiadora de la IA Pamela McCorduck ha llamado “mover los postes de gol”.
También: Cómo usar ChatGPT para escribir código
Hoy en día, las cosas parecen ir en sentido contrario: las personas tienden a atribuir casualmente inteligencia a todo lo etiquetado como IA. Si un chatbot como LAMDA de Google produce suficientes oraciones en lenguaje natural, alguien argumentará que es consciente.
El matemático británico Alan Turing anticipó que la “opinión general educada” llegaría a aceptar que las máquinas tienen inteligencia.
Turing mismo anticipó este cambio de actitud. Predijo que las formas de hablar sobre las computadoras y la inteligencia cambiarían a favor de aceptar el comportamiento de las computadoras como inteligente.
“Creo que al final del siglo el uso de palabras y la opinión general educada habrán cambiado tanto que se podrá hablar de máquinas pensantes sin esperar ser contradicho”, escribió Turing.
A medida que la sincera pregunta sobre la inteligencia se desvanece, la retórica vacía de la inteligencia se permite flotar libremente en la sociedad para servir a otras agendas.
También: Jensen Huang, CEO de Nvidia: los modelos de lenguaje de IA como servicio “potencialmente una de las mayores oportunidades de software de la historia”
En un encomio brillantemente confuso en Fast Company recientemente, escrito por un ejecutivo de la industria informática, Michael Hochberg, y un general retirado de la Fuerza Aérea, Robert Spalding, los autores hacen afirmaciones frívolas sobre la inteligencia como una forma de agregar música de órgano a su advertencia sobre el riesgo geopolítico:
Las apuestas no podrían ser más altas en el entrenamiento de sistemas de inteligencia artificial general. La IA es la primera herramienta que replica de manera convincente las capacidades únicas de la mente humana. Tiene la capacidad de crear una experiencia de usuario única y dirigida para cada ciudadano. Esto puede ser potencialmente la herramienta de propaganda definitiva, un arma de engaño y persuasión como nunca antes se ha visto en la historia.
La mayoría de los académicos estarían de acuerdo en que la “inteligencia artificial general”, si es que tiene sentido como término, está lejos de lograrse con la tecnología actual. Las afirmaciones de Hochberg y Spalding sobre lo que los programas pueden hacer están exageradas de manera desmesurada.
También: La IA podría permitirnos hablar pronto con los animales. Así es cómo
Afirmaciones tan despreocupadas sobre lo que la IA está logrando oscurecen los comentarios matizados de individuos como LeCun y Marcus. Se está formando un régimen retórico que se preocupa por la persuasión, no por la inteligencia.
Esa puede ser la dirección de las cosas en el futuro previsible. Si la IA cada vez realiza más tareas, en biología, en física, en negocios, en logística, en marketing y en la guerra, y a medida que la sociedad se sienta cómoda con ello, puede que haya cada vez menos personas a las que les importe si es inteligente o no lo es.
