¿Cómo podemos sobrevivir a la singularidad?

Sobrevivimos utilizando la misma estrategia de gestión de riesgos que funciona en varias otras áreas de la sociedad: la diversificación .

Hay 2 categorías de tácticas que podemos usar:

  1. Asegúrese de que ninguna IA esté significativamente más avanzada que todas las demás. En el nivel superior de la IA, aproximadamente en el momento de la singularidad, debería haber varios diseños competitivos. Cuantos más haya, más posibilidades tendrá de mitigar el daño si una o más IA se vuelven deshonestas. Este es el propósito detrás de la compañía de Elon Musk, OpenAI.
  2. Asegúrese de que la tecnología transhumanista esté suficientemente desarrollada para que los humanos sean competitivos con estas IA de primer nivel para que una mente humana probada y probada, o idealmente varias de nuevo, pueda mitigar el daño causado si la mayoría o todas las IA se vuelven deshonestas. Este es el propósito detrás de la compañía de Elon Musk, Neuralink (percibiendo un tema, pero parece ser bastante progresista cuando se trata de estas cosas: D).

También tengo que estar en desacuerdo con la respuesta de Tamara a continuación. La tecnología no aleja a las personas inherentemente, esto ha sido un efecto secundario de las redes sociales actuales que nunca tuvieron la intención de sustituir la comunicación cara a cara y, sin embargo, muchos, incluido yo, hemos caído en la trampa de usarlo de esta manera. Las tecnologías futuras, como los desarrollos posteriores en inteligencia artificial y realidad virtual, abordarán estos problemas.

Una minoría considerable nunca “actualizará”. Mire a los amish, menonitas y otros grupos que rechazan la tecnología más moderna, y debido a la brecha cultural, la retención de sus jóvenes solo está aumentando. Ellos permanecerán

Ahora mire a las personas que eligen “comida lenta”, recreaciones de baja tecnología, ferias medievales, todos los alimentos naturales. Están respondiendo a la alta tecnología impersonal y alienante adoptando tanta tecnología baja como sea posible. Pueden revisar su correo electrónico o mensajería instantánea, pero el resto de sus vidas están cambiando a una tecnología más baja y lo ven como algo moral. La mayoría de ellos no se “actualizarán”.

Y si un gran porcentaje o incluso una minoría de la población se suicida para actualizar a formas digitales, la resistencia cultural en estos grupos se endurecerá para disuadir a sus hijos de que se queden en el mundo real.

Una historia posterior a la singularidad, una historia corta de Scifi

Eso depende de si hay algo para sobrevivir, si nos enfrentamos a una amenaza de las máquinas, porque hay una muy buena posibilidad de que se evite todo el pesimismo de la humanidad. Hay científicos trabajando para asegurarse de que se tomen precauciones para evitar que la IA se rebele.
Y si hay una amenaza Depende de cuál sea la amenaza, puedo decirle ahora que la escena de Terminator no va a suceder.
un virus es más probable, envenenando nuestro suministro de alimentos y / o agua, también es probable.

Todo depende de cómo piense la IA, si nos considera un enemigo o no. Un ser súper inteligente que piensa como un humano debería actuar lógicamente como un humano con alta inteligencia, en el sentido de que son más morales, más éticos, más empáticos, favorecen la razón y la lógica. Un sistema que piense como nosotros debería entendernos, vería nuestra historia y vería cuánto hemos progresado, cómo pasamos de bárbaros a personas civilizadas con infinitas posibilidades.

Pero al final del día, ¿quién estaría contento con solo hacer IA? ¿Por qué haríamos algo más inteligente que nosotros sin cosechar algo de ese conocimiento para nosotros mismos? .