¿Es una certeza matemática o una gran posibilidad de que la singularidad tecnológica ocurra en los próximos 30-40 años?

Hm. Veo la posibilidad de que la IA descubra cómo ganar dinero usando sistemas de una máquina y luego usar el dinero para construir sistemas más grandes con la ayuda de humanos comprensivos. El comercio de programas podría ser matemáticamente perfecto de modo que una computadora de escritorio pudiera ganar previsiblemente mil millones de dólares y luego pedir más piezas.

Creo que una aplicación de escritorio que “resuelve la economía” vendría mucho antes que un vasto multinúcleo que puede simular a un humano, luego sería 2,4,8 (etc.) veces mejor. Cuando digo resuelto, eso permitiría que una pluralidad de tales programas, con diferentes supervisores humanos, funcionen simultáneamente. Un programador reflexivo podría optar por burbujas de activos rotativos de “8 cilindros” que se alternan regularmente y de manera predecible. Tal programa podría detectar otras máquinas de burbujas y navegar adecuadamente.

Esto es diferente al canon transhumano. Sin embargo, afectaría todos los trabajos y la longevidad de los humanos, además de causar una base para que las computadoras se amplifiquen.

Antes de 2050 o antes parece bastante posible para esto.

Dicho esto, creo que un sistema moderadamente complejo podría inventar nuevas ideas al azar, solo un poco como locos, y luego utilizar el crowdsourcing para descubrir lo que otras personas piensan de la idea. “Una _píldora_ que funciona como _insulina_ usando _ polvo efervescente entérico_” Luego, los cientos de humanos que ven cada idea individual harían cosas como estimar el valor fiscal (quizás cientos de miles de millones), así como si lo usaran.

Hasta donde sé, no hay un productor * automático * de anuncios de youtube cuyo único propósito al hacer anuncios es ganar lo suficiente para hacer más anuncios. Si eso se creara, las personas serían constantemente reclutadas para evaluar la tecnología originada por máquinas.

Todo el concepto de algún tipo de inteligencia emergente (y mucho menos consciente) de algún tipo de arquitectura informática es defectuoso. La fuente de su “conocimiento” es el texto y el texto no tiene sentido a menos que se superponga en un sistema basado en sensores capaz de muestrear el mundo real. Cuando decimos “gato” se produce una masa de asociaciones. Cuando una computadora ve la cadena “CAT”, no hay nada excepto quizás un programa que le diga qué hacer. Entrenar al sistema para ver una imagen de un gato cuando se muestrea la cadena CAT solo permite al sistema escupir una imagen plausible. La singularidad tiene que construir un cuerpo entero de experiencia consistente (conocimiento) por medio de que se les diga cómo etiquetar las cosas y luego … qué hace … no lo sabe porque no puede interactuar con las cosas y no tiene sentido de su propia existencia, solo etiquetas. No habrá una singularidad tecnológica que emerja de nuestras redes informáticas deterministas … nunca.

Por lo tanto, probabilidad = 0, sin posibilidad.

En retrospectiva (como tal vez una década después del evento), sí. Nadie se dio cuenta de que la llegada de las pequeñas computadoras de escritorio era una singularidad tecnológica en ese momento, solo eran cosas con las que jugamos. Mirando hacia atrás, fueron los antepasados ​​de las computadoras y los teléfonos celulares que manejamos hoy.

¿Entonces en 30-40 años? Muy posiblemente.

Las líneas de tendencia para los avances en la tecnología de la información sugieren que sucederá. Pero al final del día … son solo líneas de tendencia … es solo una gran oportunidad.

Solo una gran oportunidad, a menos que la humanidad la desperdicie. La gente con mucho gusto preferiría más de lo mismo en lugar de algún cambio radical, pero producir más de lo mismo debería ser suficiente para impulsar el progreso.