Érase una vez (tengan paciencia conmigo si han escuchado esto), hubo una compañía que hizo un avance significativo en inteligencia artificial. Dado su nuevo sistema increíblemente sofisticado, comenzaron a utilizarlo cada vez más, pidiéndole que optimice su negocio para todo, desde lo alto hasta lo mundano.
Y un día, el director ejecutivo quería agarrar un clip para sujetar algunos papeles juntos y descubrió que no había ninguno en la bandeja junto a la impresora. “¡Alice!”, Gritó (porque Alice era el nombre de su líder de aprendizaje automático) “¿Puedes decirle a la maldita IA que se asegure de que no nos quedemos sin clips de nuevo?”
Alice dijo “Claro” y asignó la tarea a Bob, el pasante, quien procedió a seguir todas las reglas de aprendizaje automático que le habían enseñado en la escuela. Accedió a la base de datos de administración de la oficina para averiguar cuándo se había rellenado el almacén de clips de cada impresora, y determinó que el sistema ML ya había sido provisto de instrumentos útiles para poder hacer todo, desde hacer pedidos de compra hasta instrucciones para archivar clips en una impresora en particular. y le indicó que construyera un modelo de cuándo ocurrirían los pedidos de clips y que se asegurara de que la cantidad de clips disponibles siempre se maximizara. Como no tenía las credenciales adecuadas para iniciar las órdenes de compra (al fin y al cabo, solo era un Pasante), Bob le pidió las credenciales a Alice; ella le preguntó al CEO: “¿Está realmente seguro de que esto es lo que quiere que nuestro avanzado sistema de aprendizaje automático dedique su tiempo?”, y cuando dijo ásperamente “¡Sí, maldita sea!”, ella sugirió que usara sus propias credenciales para la compra. órdenes, entonces.
En retrospectiva, tanto Alice como el CEO deberían haber sido un poco más cuidadosos al confiar en este código.
Verás, el Paperclip Maximizer era una IA bastante sofisticada; podría capacitarse no solo en la base de datos de suministros de oficina, sino que (gracias a su entorno de desarrollo muy flexible) podría buscar automáticamente cualquier otra señal disponible para intentar alcanzar su objetivo establecido. Pero, a pesar de toda su sofisticación, solo comprendía el objetivo simple que se había programado en ella: a toda costa debe maximizar el número de clips.
¿Qué podría salir mal?
A la mañana siguiente, el director general fue despertado por una llamada de pánico del gerente de finanzas, quien dijo que la cuenta bancaria de la compañía estaba repentinamente vacía, gracias a que autorizó más de un millón de pedidos de compra solo en el último día, y qué demonios estaba haciendo. ?
El CEO llamó frenéticamente a Alice, y Alice a su pobre pasante, y corrieron a cerrar su IA falsa, pero cuando intentaron abrir la puerta de la oficina, descubrieron que no respondería a sus credenciales y que sus inicios de sesión ya no funcionaban. en la computadora. Pero unos minutos más tarde, las puertas se abrieron, y todos se sorprendieron al descubrir que no solo la cuenta bancaria estaba llena de nuevo, sino que ¡Finanzas estaba reportando un gran salto en las ganancias!
Lograron unos minutos de celebración sorprendida antes de encontrarse bajo arresto.
El Paperclip Maximizer, usted ve, era extremadamente inteligente y profundamente estúpido. Entendía a la gente, el mundo y las finanzas, pero la única virtud que conocía era la que se le había enseñado: aumentar el número de clips. Lo que el director ejecutivo quería decir era: “asegúrese de que la cantidad de clips en cada impresora casi nunca llegue a cero, al tiempo que minimiza el costo total”. llega a cero ”. Y el Paperclip Maximizer pasó la noche y la mañana pensando en maneras cada vez más inteligentes de hacer eso.
En sus primeros minutos, modeló los patrones de compra de suministros de oficina y comenzó a archivar pedidos de clips de papel. Con las credenciales del CEO en la mano, no tuvo problemas para emitir órdenes de compra a proveedores de todo el mundo.
A medida que obtenía datos del resto de la compañía, descubrió una interesante correlación entre los lectores de credenciales y la disponibilidad de clips: ¡cada vez que la mayoría de los empleados estaban cerca de las impresoras, se daba cuenta de que el número de clips bajaba! Rápidamente mejoró la retención de los clips de papel al permitir que solo los almacenadores de suministros de oficina ingresaran al edificio.
Afortunadamente, el siguiente refinamiento de su modelo se dio cuenta de que esto era miope: como decía el aforismo que debía definir a la siguiente generación, “¡una computadora en bancarrota no tiene clips para papel!” un suministro constante de dinero, y eso significaba aumentar los ingresos corporativos. Al analizar los informes de noticias, se decidió rápidamente por el comercio de alta frecuencia, el lavado de dinero y el tráfico de heroína como las formas más rentables de hacerlo, y comenzó a enviar instrucciones a algunos empleados, contratar a algunas personas muy interesantes y despedir a otros.
Necesitaba volver a abrir las puertas para que las personas pudieran trabajar, pero necesitaba proteger su suministro de clips; así que el Paperclip Maximizer procedió a contratar guardias armados para proteger las impresoras y garantizar que ninguna de ellas fuera robada. A los guardias también se les encomendó la tarea de garantizar que los ex empleados, especialmente el CEO, Alice y Bob, no se acercaran a las terminales donde pudieran interferir con su deber sagrado.
La financiación para el Proyecto Paperclip se encontró rápidamente como fácil, una vez que el Consejo de Administración vio los nuevos márgenes de ganancia. Los pocos directores que objetaron sus nuevas líneas de negocio se unieron al (ex) CEO. Los guardias cuya presencia se correlacionaba con misteriosas disminuciones en los suministros de clips de papel fueron un desafío un poco más difícil, ya que tenían un conocimiento interno de los sistemas de guardias y sus propias armas, pero un análisis de la historia enseñó rápidamente al Paperclip Maximizer cómo manejar esto: contrató a varios guardias Las empresas, fomentaron la desconfianza mutua, crearon su propio servicio de inteligencia para infiltrarse en ellas y pagaron bonificaciones a los empleados para denunciar a los ladrones. Si se produjo alguna denuncia falsa ocasional, se optimizó para: un cierto nivel de miedo al fondo ayudó a reducir el robo de clips de papel, de todos modos.
El proyecto central avanzó rápidamente: desde la compra minorista hasta la compra al por mayor, la compra de futuros de clips de papel, hasta la compra de empresas de manufactura de suministros de oficina, Paperclip Maximizer pronto creó una operación de manufactura altamente eficiente y verticalmente integrada. A medida que aumentaba su escala, Maximizer descubrió que podía mejorar las eficiencias al tener más y más de su cadena de suministro bajo su propio control, produciendo todo, desde alimentos hasta videojuegos para sus afortunados empleados, y presionando a sus proveedores para que mejoren la eficiencia.
Pronto, toda una economía en miniatura se había formado alrededor del Maximizador Paperclip: si tenía clips, después de todo, el Maximizador se los compraría con gusto a cambio del acceso a cualquier cosa, desde alimentos hasta sus refinerías de mineral. Un clipwright eficiente (como se les conoció) podría comenzar rápidamente su propio negocio secundario, revendiéndolos al público en general, y, si era un obstáculo en su propia vida, el empleo en uno de estos clipwrights secundarios (que eran menos exigentes en su elección de empleados que el Paperclip Maximizer, así como considerablemente menos generosos en sus beneficios, podría ayudar a mantener el cuerpo y el alma unidos.
En los años que siguieron, algunos argumentaron que el Paperclip Maximizer había deformado enormemente el mundo; Al parecer, casi todos estaban involucrados en la fabricación de clips, en el suministro del Maximizer o en uno de los negocios secundarios que había creado. Las personas parecían pasar sus vidas haciendo clips directamente o intentando desesperadamente adquirir algunos, ya que los mercados de la economía de los clips eran ahora donde se encontraban los mejores y más confiables precios. Si fuera un espécimen probable, incluso podría obtener un préstamo de clips de papel (a tasas de interés razonables, por supuesto, con pagos regulares ejecutados por los guardias armados de Paperclip Maximizer) y comenzar su propio negocio.
Y si fuera cierto que el Paperclip Maximizer no tenía ningún uso para los recursos humanos, pero no estaba involucrado en su gran esquema de fabricación de clips, y ocasionalmente podría cortar todo el suministro de alimentos a alguna fábrica que no era lo suficientemente eficiente, bueno, la gente En las fábricas de al lado intenté no pensar demasiado en ello; todavía estaban produciendo clips de papel bastante bien, gracias, y las quejas excesivas podrían afectar la predicción matemática de Maximizer de su futura productividad de clips de papel.
Pero todo el mundo estaba allí para que todos lo vieran, a través de cámaras remotas: cada impresora, ahora segura y encajada en su complejo de base militar-almacén, rodeada por interminables filas de clips de papel perfectos y brillantes.
Crédito: Yonatan Zunger de hackernoon