Esta misma dinámica competitiva se aplicará no solo a las empresas sino también a las naciones. A medida que aumente la autonomía de las IA, también lo hará su control sobre las decisiones clave que influyen en la sociedad. Si esto sucede, nuestro futuro dependerá en gran medida de la naturaleza de estos agentes de IA.

La buena noticia es que podemos opinar sobre cómo serán. La mala noticia es que las leyes de Darwin también lo hacen. Aunque pensamos en la selección natural como un fenómeno biológico, sus principios guían mucho más, desde las economías hasta las tecnologías. El biólogo evolutivo Richard Lewontin propuso que la selección natural se afianzará en cualquier entorno en el que estén presentes tres condiciones: 1) existen diferencias entre los individuos, 2) las características se transmiten a las generaciones futuras y 3) las variantes más aptas se propagan con más éxito.

Considere los algoritmos de recomendación de contenido utilizados por las plataformas de redes sociales y los servicios de transmisión. Cuando los algoritmos particularmente adictivos enganchan a los usuarios, dan como resultado una mayor participación y tiempo de pantalla. En consecuencia, estos algoritmos más efectivos se “seleccionan” y se afinan aún más, mientras que los algoritmos que no logran captar la atención se descontinúan. Esto fomenta la supervivencia de la dinámica más adictiva. Las plataformas que se niegan a utilizar métodos adictivos simplemente se ven superadas por las plataformas que sí lo hacen, lo que lleva a una carrera a la baja entre los competidores que ya ha causado un daño masivo a la sociedad.

En el ámbito biológico , la evolución es un proceso lento. Para los humanos, se necesitan nueve meses para crear la próxima generación y alrededor de 20 años de educación y crianza para producir adultos completamente funcionales. Pero los científicos han observado cambios evolutivos significativos en especies con índices de reproducción rápidos, como las moscas de la fruta, en menos de 10 generaciones. Sin restricciones biológicas, las IA podrían adaptarse, y por lo tanto evolucionar, incluso más rápido que las moscas de la fruta.

Hay tres razones por las que esto debería preocuparnos. La primera es que los efectos de selección dificultan el control de las IA. Mientras que los investigadores de IA alguna vez hablaron de “diseñar” IA, ahora hablan de “dirigirlas”. E incluso nuestra capacidad de dirección se nos está escapando de las manos a medida que permitimos que las IA se enseñen a sí mismas y actúen cada vez más de maneras que ni siquiera sus creadores entienden por completo. En las redes neuronales artificiales avanzadas, entendemos las entradas que ingresan al sistema, pero la salida emerge de una “caja negra” con un proceso de toma de decisiones en gran parte indescifrable para los humanos.

Segundo, la evolución tiende a producir un comportamiento egoísta. La competencia amoral entre las IA puede seleccionar rasgos indeseables. Predominarán las IA que ganen influencia con éxito y proporcionen valor económico, reemplazando a las IA que actúan de una manera más estrecha y restringida, incluso si esto tiene el costo de reducir las barandillas y las medidas de seguridad. Como ejemplo, la mayoría de las empresas siguen las leyes, pero en situaciones en las que robar secretos comerciales o engañar a los reguladores es muy lucrativo y difícil de detectar, una empresa que se involucra en un comportamiento tan egoísta probablemente superará a sus competidores con más principios.

El egoísmo no requiere malicia o incluso sensibilidad. Cuando una IA automatiza una tarea y deja a un ser humano sin trabajo, se trata de un comportamiento egoísta sin ninguna intención. Si las presiones de la competencia continúan impulsando el desarrollo de la IA, no debería sorprendernos si también actúan de manera egoísta.