¿Por qué la gente sigue trabajando en la IA si saben que va a destruir el mundo?

Answer 1

Potencial de crecimiento y beneficios. La IA puede ser lo mejor que se haya hecho o lo peor que se haya hecho . Todo depende de lo que se alimenta y de cómo el sistema está funcionando totalmente.

Recientemente, hablé con pocos líderes en todo el mundo, parece que están alimentando emociones dentro de los bots de IA que realmente se comportarían de manera similar a un ser humano y aprenderían continuamente. Pensé que podrías echarle un vistazo a uno de mis artículos recientes: ¿La innovación en la IA avanzada es el Apocalipsis? – Caja de jabón

Answer 2

En definitiva, porque crea valor económico en la actualidad. Sin embargo, su hipótesis de que la IA va a destruir el mundo aún no está probada y ni siquiera hemos visto ninguna evidencia concreta de que la IA pueda hacer eso. Sin embargo, hay una pregunta más drástica: ¿por qué no estamos haciendo lo suficiente en el cambio climático? que ha sido respondida aquí y aquí. En resumen, mi opinión sobre el cambio climático es que las personas son codiciosas y miopes, por lo que no pueden renunciar a su propio beneficio económico por un bien mayor.

Sin embargo, no creo que esto se aplique a la IA. No podemos tener progreso tecnológico sin la IA. Por lo tanto, en lugar de dejar de trabajar en la inteligencia artificial, debemos entender cómo hacerlo benévolo. Algunos de los grandes pensadores como Einstein eran conocidos por su benevolencia, así que ¿por qué la IA no debería ser también benevolente? En eso es en lo que trabajan algunos de los principales científicos como parte de openAI.

Answer 3

Pero, ¿y si no destruyen el mundo? No sabemos con seguridad lo que pueden hacer. ¡Pueden ser buenos también! Otra respuesta sería para el poder, la primera persona en lograr SAI tendría mucho poder en sus manos, todos aman el poder.

Mientras tanto, hay personas trabajando en una alternativa para nosotros, los humanos. Echa un vistazo a la compañía Neuralink de Elon Musk. Planea hacernos cyborgs para el año 2022 y, dada la concentración de Elon Musk en sus compañías, apuesto a que Neuralink puede ser un éxito.

Answer 4

Sencillo. Ellos no

No hay razón para suponer que una IA querría crecer o aplicar un sentido de autoconservación proactiva en los humanos.

Mientras tanto, la gente sabe que eso favorecería a la humanidad.

Answer 5

En el corto plazo, la IA debería hacer del mundo un lugar más fácil para vivir. La IA puede reducir los accidentes, tomar acciones a distancia sin poner a las personas en peligro, facilitar la vida y brindar entretenimiento.

¿Quién va a decir cuáles serán los efectos a largo plazo? Descubrimos el asbesto mucho antes de descubrir los efectos a largo plazo. También descubrimos el fuego, que aún podría destruir el mundo. Sin embargo seguimos trabajando en ello.