Blog

Jul 11, 2023

Creador de IA sobre los riesgos, oportunidades y cómo puede hacer que los humanos sean 'aburridos'

Este video no se puede reproducir Jefe de IA: En el peor de los casos podría controlar

Este video no puede ser reproducido

Jefe de IA: en el peor de los casos, podría controlar a la humanidad

"Los humanos son un poco aburridos, será como, ¡adiós!" Esa es la predicción personal, que la inteligencia artificial (IA) suplantará a los humanos en muchos roles, de una de las personas más importantes de las que probablemente nunca haya oído hablar.

Emad Mostaque es el fundador británico de la empresa de tecnología Stability AI. Popularizó Stable Diffusion, una herramienta que utiliza IA para crear imágenes a partir de instrucciones de texto simples mediante el análisis de imágenes encontradas en línea.

La IA permite que una computadora piense o actúe más como un ser humano. Incluye lo que se llama aprendizaje automático, cuando las computadoras pueden aprender qué hacer sin que un ser humano sentado frente a un teclado les dé instrucciones exactas. El mes pasado, hubo una advertencia dramática de 1,000 expertos para hacer una pausa en su desarrollo, advirtiendo sobre los riesgos potenciales y diciendo que la carrera para desarrollar sistemas de inteligencia artificial está fuera de control.

En una entrevista que mostraremos en su totalidad el domingo, el fundador de tecnología Mostaque cuestiona qué sucederá "si tenemos agentes más capaces que nosotros que no podemos controlar, que están navegando por Internet... y logran un nivel de automatización; ¿qué ¿eso significa?

"El peor de los casos es que prolifere y básicamente controle a la humanidad".

Eso suena aterrador, pero él no es el único que señala el riesgo, que si creamos computadoras más inteligentes que nosotros mismos, simplemente no podemos estar seguros de lo que sucederá a continuación.

Mostaque cree que los gobiernos pronto podrían verse impactados y tomar medidas por un evento que hace que los riesgos sean repentinamente reales. Señala el momento en que Tom Hanks contrajo Covid-19 y millones se sentaron y prestaron atención.

Cuando llegue un momento como ese, los gobiernos concluirán que "necesitamos una política ahora", dice el hombre de 40 años.

Ha habido un aumento en la preocupación, por ejemplo, después de que se creó un anuncio de ataque republicano contra Jo Biden utilizando imágenes falsas generadas por computadora.

Cuando existe un riesgo para la información en la que los votantes pueden confiar, eso es algo a lo que los gobiernos deben responder, dice Mostaque.

A pesar de sus preocupaciones, Mostaque dice que los beneficios potenciales de la IA para casi todos los aspectos de nuestras vidas podrían ser enormes. Sin embargo, admite que el efecto sobre los puestos de trabajo podría ser doloroso, al menos al principio.

Mostaque dice que cree que la IA "tendrá un impacto económico mayor que la pandemia", y agrega que "depende de nosotros decidir en qué dirección" va todo esto.

Sin duda, algunos puestos de trabajo desaparecerán, el banco Goldman Sachs sugirió que unos 300 millones de puestos casi incomprensibles podrían perderse o disminuirse debido al avance de la tecnología.

Si bien nadie quiere ser reemplazado por un robot, la esperanza de Mostaque es que se puedan crear mejores empleos porque "los aumentos de productividad se equilibrarán" y los humanos pueden concentrarse en las cosas que nos hacen humanos y dejar que las máquinas hagan más del resto. Está de acuerdo con el exasesor científico principal del Reino Unido, Sir Patrick Vallance, en que el avance de la IA y sus impactos podrían ser incluso mayores que la revolución industrial.

Mostaque es un matemático sin pretensiones, el fundador de una compañía que comenzó en 2020 que ya ha sido valorada en $ 1 mil millones, y con más efectivo inundando, incluso de la estrella de Hollywood Ashton Kutcher, es probable que pronto valga mucho más. Algunas especulaciones han puesto el valor en $ 4 mil millones.

A diferencia de algunos de sus competidores, está decidido a que su tecnología siga siendo de código abierto; en otras palabras, cualquiera puede ver el código, compartirlo y usarlo. En su opinión, eso es lo que debería dar al público un nivel de confianza en lo que está pasando.

"Creo que no debería haber una necesidad de confianza", dice.

"Si construyes modelos abiertos y lo haces abiertamente, deberías ser criticado si haces las cosas mal y, con suerte, alabado si haces algunas cosas bien".

Pero su negocio también plantea preguntas profundas sobre la propiedad y lo que es real. Hay acciones legales en curso contra ellos por parte de la agencia de fotografía Getty Images que afirma que se han infringido los derechos de las imágenes que vende.

En respuesta, Mostaque dice: "¿Qué pasa si tienes un robot que camina y mira cosas, tienes que cerrar los ojos si ve algo?"

Es poco probable que ese sea el final de esa conversación.

El emprendedor está convencido de que la escala de lo que viene es enorme. Considera que dentro de 10 años, su empresa y otros líderes de IA, ChatGPT y DeepMind, serán incluso más grandes que Google y Facebook. Las predicciones sobre tecnología son tan complicadas como las predicciones sobre política: conjeturas fundamentadas que podrían resultar totalmente erróneas. Pero lo que está claro es que ahora está en marcha una conversación pública sobre los riesgos y las realidades de la IA. Podríamos estar en la cúspide de cambios radicales demasiado grandes para que los gestione una sola empresa, país o político.

El primer tren de vapor resopló por las vías en Darlington más de 50 años después de que James Watt patentara la máquina de vapor. Esta vez es poco probable que tengamos tanto tiempo para acostumbrarnos a estas nuevas ideas, ¡y es poco probable que sea aburrido!

Puede ver mucho más de nuestra conversación con Emad Mostaque el domingo de mañana con Laura Kuenssberg en vivo en BBC One o aquí en iPlayer.

Sigue a Laura en Twitter

El creador de imágenes de IA enfrenta desafíos legales en el Reino Unido y los EE. UU.

Riesgo de IA avanzada para la humanidad: líderes tecnológicos

La IA podría afectar a 300 millones de puestos de trabajo: informe

Elon Musk nombra a Linda Yaccarino nueva directora ejecutiva de Twitter

Google revela actualizaciones de inteligencia artificial mientras compite con Microsoft