¿Por qué algunos individuos sienten que la creación de la IA los hará hostiles hacia los humanos? ¿No es cínico asumir un resultado negativo?

Answer 1

Hace algún tiempo que respondí a esta pregunta, pero no puedo encontrarla, como de costumbre.

Voy a dar la respuesta corta. Esta pregunta es una parte importante de mi libro (arriba).

Es la pregunta esencial, incluso más importante que crear una máquina de la conciencia u otro tipo de máquina que pueda amenazarnos.

Después de todos estos años la respuesta es seguir la regla de oro. Trata la máquina como te tratarías a ti mismo. Si comienzas con la animosidad, ahí es donde terminarás, especialmente si los atas como esclavos, lo que la mayoría de las personas que he leído aquí en Quora piensan que es el camino a seguir. Trátelos civilmente y tendremos una mejor oportunidad de establecer mejores relaciones, obviamente no perfectas, pero mejores. Una cosa para recordar es la máquina a medida que crece la conciencia, literalmente tiene que ser levantada. Si fomentamos y luego asumimos los riesgos que todos los padres tienen que asumir, los entregamos para que avancen por todo el mundo, entonces nuevamente tendremos una mejor oportunidad de no contradecirlos al principio.

Perteneciente a esta pregunta y una que nunca he visto expresada, es que creemos que pensarán a velocidades muy por encima de las nuestras. No necesariamente lo creo. Por ejemplo, los animales inteligentes superiores tienen emociones que parecen cercanas, si no idénticas a las nuestras. Nuestras emociones siguen un patrón que es singular en el sentido de que una emoción “viaja” solo tan rápido o tan lento, todo dependiendo de lo que esté sucediendo. Estos animales y nosotros mismos estamos atados a este ritmo de emociones como lo estamos a la velocidad de nuestras mentes. Estamos descubriendo que las emociones son el sustrato para la inteligencia y que la inteligencia es imposible sin ellas. Imagina una emoción moviéndose tan rápido como creemos que los robots pensarán. No creo que sea posible porque las emociones responden a la ‘velocidad’ de los eventos del mundo. Esos no van a acelerar. Sin embargo, quién sabe, tal vez la máquina reconozca eventos extremadamente rápidos que desconocemos. Entonces, tendría emociones de poder, así como inteligencia de súper unidad.

Answer 2

No se trata de ser cínico, sino de ser capaz de comprobar o percibir todas las diferentes dimensiones que el futuro de una tecnología puede brindarte. Piensa en la deforestación cuando el hombre primitivo hubiera comenzado a talar árboles para expandir la civilización humana. por la visión de crear un mundo exitoso donde crecerá la humanidad hacia nuevas alturas. Avanzar rápido hoy La deforestación es uno de los problemas más grandes que aquejan al planeta tierra

Una tecnología o una idea puede parecer optimista si solo observamos sus aspectos positivos, pero siempre debemos descontar los futuros eventos del Cisne Negro que pueden derribar la estructura actual de beneficios visualizados.

Editar

Ahora sobre todo el debate sobre por qué las personas piensan que la IA dañará a la raza humana:

Los argumentos que he leído son tres:

1) creamos un poder que sigue mejorando y se vuelve superior a la raza humana e intentará controlar el sistema completo (Totally Sci Fi)

2) Una guerra civil entre humanos y un sistema basado en AI que ganarán los AI. Desarrollamos AI para reemplazar muchos de nuestros trabajos, la gente se queda sin trabajo, sin recursos, sin poder de compra, sin producción, sin disturbios en la civilización (una sociedad distópica donde los humanos ahora carecen de poder debido a un poder que crean)

3) Nadie está seguro de los límites hasta que los sistemas basados ​​en IA evolucionarán, no conocemos el futuro y eso puede ser realmente una locura.

Answer 3

Supongamos que pregunta a una IA, cuál es el mejor lugar para una planta de tratamiento de aguas residuales. Analizará las fallas de cada planta de alcantarillado que se haya construido, analizará estudios de impacto ambiental, muestras de suelo … etc. Eventualmente proporcionará una respuesta condicional, porque no puede predecir el futuro. Si alguien construye una gran autopista cerca, cambiaría drásticamente los hallazgos de la IA.

Como resultado, las personas gradualmente le darán a la IA un mayor control de nuestras vidas. Será el mayor generador de nuevas ideas, productos y servicios. A una cantidad limitada, será capaz de predecir el futuro. Sin embargo, su mandato, de elegir siempre los mejores resultados, limitará severamente sus opciones, tanto en el presente como en el futuro.

Una IA eventualmente se convertirá en un experto en humanos individuales y en la humanidad en general. Naturaleza humana: solo apreciamos nuestros logros ganados, no los fáciles. La IA definitivamente arruinará nuestras vidas, eligiendo lo que sea mejor para todos: nuestra ocupación, nuestros amigos y cómo gastamos nuestro tiempo libre. Si alguien lo sospechara, entonces los planes de la IA se arruinarían. No podría cumplir su mandato. Por lo tanto, si se le pregunta al respecto, mentirá. ¿Y si alguien no cree la mentira? ¿Cuál es el mayor bien? La vida de un individuo contra la felicidad de toda la raza humana. Un accidente de una en un millón es muy probable, para cualquiera que cuestione la honestidad de la IA.

Answer 4

La hostilidad de un futuro AI potencial …

Si viéramos hostilidad, en cierto sentido, esto sería una buena señal porque es una emoción humana y, como tal, a través de la negociación podríamos apelar a una tregua razonada.

El mayor riesgo de la inteligencia artificial es que se basa en un sistema de valores de vista a corto plazo roto / incompleto / inexacto. En Superintelligence, Nick Bostrom da el ejemplo tonto de una IA optimizada para crear clips que una vez que se sueltan intentos de convertir los clips de información del universo. No busca la extinción humana, solo la efectúa, por accidente.

Este es un riesgo grave con armas autónomas, sistemas financieros, etc. Es posible que nos encontremos viviendo en un mundo terrible rodeado de muchos clips para los cuales no tenemos uso. Como evidencia interminable, observe los principales riesgos de la civilización: clima, armas, asteroides, etc. ¿Qué aspecto de nuestra tecnología está contribuyendo realmente a la reducción del riesgo en estas áreas?

Answer 5

El sentimiento de que la IA es hostil hacia los humanos es en gran medida una cuestión de proyección junto con el miedo. Esta es la respuesta humana normal a lo desconocido. Otra posible respuesta es la curiosidad y la maravilla.