DeepMind es una empresa de investigación de IA fundada en 2010 y con sede en Londres, Reino Unido. La empresa desarrolla e investiga sistemas de inteligencia artificial general (AGI), cuyo objetivo es permitir que las computadoras aprendan y razonen como los humanos.
Uno de los logros más conocidos de DeepMind es el programa AlphaGo desarrollado en 2016, que derrotó al campeón mundial Lee Sedol en el juego Go y atrajo una gran atención. Este logro demuestra el potencial de la IA en problemas complejos y convierte a DeepMind en una de las empresas líderes en el campo de la IA.
En 2014, Google adquirió DeepMind, pero mantiene operaciones relativamente independientes y continúa realizando investigaciones de vanguardia en inteligencia artificial.
Fuente de la imagen: Generada por Unbounded AI
El cofundador de DeepMind, Mustafa Suleyman, quería crear un chatbot que pudiera usarse para algo más que chatear. En una conversación reciente con él, me dijo que la IA generativa es sólo una fase. Lo siguiente es la IA interactiva: robots que pueden completar las tareas que usted les asigna llamando a otro software y a otras personas. También pidió una regulación más estricta de la IA, argumentando que esto no sería difícil de lograr.
Suleyman no es el único que habla de un futuro lleno de software más autónomo. Pero a diferencia de la mayoría de la gente, es propietario de una nueva empresa valorada en miles de millones de dólares, Inflection, con un grupo de los mejores talentos de IA seleccionados entre DeepMind, Meta y OpenAI, y también ha llegado a un acuerdo con Nvidia, el mayor fabricante de chips de IA. . Suleyman practica lo que predica y ha invertido mucho dinero.
Suleyman dejó DeepMind y luego se mudó a Google para liderar un equipo dedicado a la política de IA. En 2022, fundó Inflection, una de las nuevas empresas de IA más novedosas, respaldada por una inversión de 1.500 millones de dólares de Microsoft, NVIDIA, Bill Gates y el fundador de LinkedIn, Reid Hoffman, convirtiéndose en la única empresa con la mayor escala de financiación. a OpenAI. A principios de este año, lanzó Pi, un competidor de ChatGPT. Acaba de ser coautor de un libro con el autor e investigador Michael Bhaskar sobre el futuro de la IA llamado The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century.
Muchos se burlarían del optimismo tecnológico de Suleyman, incluso de su ingenuidad. Por ejemplo, algunas de sus afirmaciones sobre el éxito de la vigilancia en línea parecen erróneas. Pero siguió convencido de que sus creencias eran sinceras y evangélicas.
De hecho, Suleyman tiene una experiencia inusual como multimillonario tecnológico. A los 19 años, abandonó la universidad y fundó la Línea Directa para Jóvenes Musulmanes, que ofrece asesoramiento telefónico. También trabajó en el gobierno local. Dijo que aporta muchos de los valores de esos esfuerzos a Inflection. La diferencia es que ahora podría hacer los cambios que siempre quiso, para bien o para mal.
El increíble progreso en IA es vertiginoso y crece exponencialmente. El habla, las imágenes, la lectura, la comprensión del lenguaje, las matemáticas de la escuela primaria, la generación de códigos: la IA se acerca o supera el desempeño humano en estas áreas. ——Mustafa Süleyman
La siguiente entrevista ha sido editada para mayor extensión y claridad.
*** Los inicios de su carrera, que incluyeron trabajo en una línea de ayuda para jóvenes y en el gobierno local, parecían estar en desacuerdo con el espíritu de Silicon Valley. Obviamente, estas experiencias son importantes para ti. Desde entonces, ha trabajado en el campo de la IA durante 15 años y este año cofundó su segunda empresa de IA de mil millones de dólares. ¿Puedes conectar los puntos entre estas experiencias? ***
Suleyman: Siempre me ha interesado el poder, la política, etc. Ya sabes, los principios de derechos humanos son básicamente una compensación, una negociación constante entre todas estas diferentes tensiones conflictivas. Puedo ver a los humanos luchando con esto: estamos llenos de nuestros propios prejuicios y puntos ciegos. El trabajo de los activistas, los gobiernos locales, nacionales, internacionales, etc., es lento, ineficiente y propenso a errores.
Imagínese si no tuviera los errores que cometen los humanos. Creo que es posible crear una IA que realmente refleje lo mejor de nosotros mismos y, en última instancia, genere mejores compensaciones, más consistentes y más justas en nuestro nombre.
*** ¿Sigue siendo esta tu motivación? ***
Suleyman: Por supuesto, quiero decir, después de DeepMind nunca tuve que volver a trabajar. Ciertamente no tengo que escribir un libro ni nada por el estilo. El dinero nunca ha sido un motivador. Ya sabes, el dinero siempre es sólo un subproducto.
Para mí, el objetivo nunca ha sido otra cosa que cómo hacer el bien en el mundo y cómo hacer que el mundo avance de una manera saludable y satisfactoria. Incluso en 2009, cuando comencé a pensar en ingresar al campo de la tecnología, pude ver que la IA representaba una forma justa y precisa de brindar servicios en el mundo.
***No puedo evitar pensar que habría sido más fácil decir esto hace 10 o 15 años, antes de que viéramos las muchas deficiencias de esta tecnología. ¿Cómo puedes mantenerte optimista? ***
Suleyman: Creo que nos importa mucho si eres optimista o pesimista. Ésta es una forma completamente sesgada de ver las cosas. Yo tampoco quiero ser esa persona. Quiero considerar los beneficios y las amenazas con frialdad. Desde mi punto de vista, podemos ver muy claramente que con cada paso aumenta la escala de estos grandes modelos lingüísticos y se vuelven más controlables.
Entonces, hace dos años, la conversación, que pensé que estaba equivocada en ese momento, fue: "Oh, simplemente van a seguir con diatribas racistas, parciales, tóxicas y que revuelven el estómago". en el tiempo. Creo que lo que la gente pasa por alto es el progreso año tras año y la trayectoria de ese progreso.
Por ejemplo, ahora tenemos modelos como el Pi que son increíblemente controlables. No puedes hacer que Pi sea racista, homofóbico, sexista, nada tóxico. No puedes permitir que guíe tu producción de armas biológicas o químicas, ni apoye tu deseo de tirar un ladrillo por la ventana de tu vecino. No puedes-
***Esperar. Cuéntame cómo lograste esto, ya que a menudo se considera un problema no resuelto. ¿Cómo garantizar que su modelo de lenguaje grande no diga cosas que usted no quiera decir? ***
Suleyman: Sí, obviamente no quiero hacer esa solicitud. Ya sabes, ¡inténtalo! Pi está en línea y deberías probar todos los ataques posibles. El jailbreak, el hacking instantáneo o cualquier otra cosa no funcionará en el Pi. No haré ningún reclamo. Este es un hecho objetivo.
Acerca de cómo... quiero decir, no entraré en demasiados detalles porque es un tema delicado. Pero lo más importante es que contamos con uno de los equipos más fuertes del mundo que ha creado todos los modelos lingüísticos más importantes en los últimos tres o cuatro años. Gente increíble, que hace muchos cálculos en un entorno extremadamente diligente. Damos prioridad a la seguridad desde el principio, por lo que el Pi no es tan atractivo como los modelos de otras compañías.
Echa un vistazo a Character.ai. [Character es un chatbot para el cual los usuarios pueden crear diferentes "personalidades" y compartirlas en línea para que otros puedan chatear. ] Es principalmente para juegos de rol románticos, y hemos dicho desde el principio que esto no es posible, no lo haremos. Si intentas decirle "Hola cariño" o "Hola linda" a Pi "y lo hará". rechazarte inmediatamente.
Pero sería increíblemente respetuoso. Si empiezas a quejarte de que los inmigrantes de tu comunidad te quitan el trabajo, Pi no te gritará ni te señalará con el dedo. Pi pregunta y ofrece apoyo, tratando de comprender de dónde proviene esta información y animándote gentilmente a sentir empatía. Sabes, este es un valor en el que he estado pensando durante 20 años.
*** Habla de tus valores y de querer hacer del mundo un lugar mejor, ¿por qué no compartir cómo lo haces para que otros también puedan mejorar sus modelos? ***
Suleyman: Bueno, porque también soy pragmático y estoy tratando de ganar dinero. Estoy intentando iniciar un negocio. Acabo de recaudar 1.500 millones de dólares y necesito pagar esos chips.
Mire, el ecosistema de código abierto está en auge y está haciendo un gran trabajo, y la gente está descubriendo trucos similares. Siempre asumo que sólo llevo seis meses de ventaja.
*** Volvamos a lo que quieres lograr. Los grandes modelos de lenguaje son claramente la tecnología actual. Pero ¿por qué seguirías apostando por ellos? ***
Suleyman: La primera ola de IA se centró en la clasificación. El aprendizaje profundo muestra que podemos entrenar computadoras para clasificar varios tipos de datos de entrada: imágenes, videos, audio e idiomas. Ahora estamos en la ola generativa, donde se toman datos de entrada y se generan nuevos datos.
La tercera ola será la fase interactiva. Por eso he creído durante mucho tiempo que las conversaciones son la interfaz del futuro. Ya sabes, estarás hablando con tu IA en lugar de simplemente hacer clic en botones y escribir.
Estas IA podrán actuar. Simplemente le asigna un objetivo general de alto nivel y utilizará todas las herramientas a su disposición para lograrlo. Hablan con otras personas, con otras IA. Esto es lo que vamos a hacer con Pi.
Este es un gran cambio que la tecnología puede permitir. Este es un momento muy, muy profundo en la historia de la tecnología que creo que mucha gente subestima. La tecnología actual es estática. En términos generales, hace lo que le dices que haga.
Pero ahora la tecnología está a punto de cobrar vida. Si se lo das, tendrá la libertad potencial de actuar. Estamos creando herramientas con este tipo de agencia, lo que realmente es un cambio radical en la historia de nuestra especie.
***Esta es exactamente la afirmación que preocupa a mucha gente. Quiere dar a las máquinas autonomía (una agencia) para influir en el mundo, pero también queremos poder controlarlas. ¿Cómo equilibras esas dos cosas? Siento que esto tensará la relación. ***
Suleyman: Sí, ese es un buen punto. Eso es lo que pone nerviosa a la gente.
La idea es que los humanos siempre estarán al mando. Básicamente, se trata de establecer límites que la IA no puede cruzar. Y garantizar esos límites crea una seguridad demostrable, desde el código real hasta la forma en que interactúa con otras IA (o humanos), y las motivaciones e incentivos de las empresas que crean la tecnología. Deberíamos descubrir cómo las agencias independientes e incluso los gobiernos pueden intervenir directamente para garantizar que no se crucen estas líneas.
***¿Quién establece estos límites? Creo que deben establecerse a nivel nacional o internacional. ¿Cómo llegaron a un acuerdo? ***
Suleyman: Quiero decir, ahora mismo se están planteando a nivel internacional todo tipo de propuestas para nuevos órganos de supervisión. Pero los límites también entran en juego a nivel micro. Le otorgará a su IA algunos permisos limitados para procesar sus datos personales, brindándole respuestas a algunas preguntas pero no a otras.
En general, creo que deberíamos ser muy cautelosos respecto de ciertas capacidades, o incluso descartarlas, en el futuro previsible.
***¿Por ejemplo? ***
Suleyman: Supongo que se trata de una especie de superación personal recursiva. No querrás que tu pequeña IA gire y actualice su propio código sin tu supervisión. Tal vez incluso debería ser una actividad autorizada, ya sabes, como tratar con ántrax o material nuclear.
O no permitimos drones en ningún lugar público, ¿verdad? Esta es una actividad autorizada. No puedes llevarlos a ningún lado porque representan una amenaza a la privacidad de las personas.
Creo que todo el mundo está entrando en pánico porque creen que no podemos regular esto. Pero esto es simplemente una tontería. Somos plenamente capaces de regularlo. Aplicaremos el mismo marco que ha tenido éxito antes.
***Pero puedes ver los drones cuando están en el cielo. Parece ingenuo pensar que las empresas sólo revelarán lo que están haciendo. ¿No complicaría eso la regulación? ***
Vigilamos muchas cosas en línea, ¿verdad? La cantidad de fraude y actividad delictiva en línea es baja. Hacemos un muy buen trabajo con el spam. Sabes, en general, el [problema] con la pornografía de venganza ha mejorado, aunque era bastante malo hace tres o cinco años. Encontrar contenido radical o material terrorista en línea es muy difícil. Comprar armas y drogas online es muy difícil.
[No todas las afirmaciones de Suleyman están respaldadas por datos. La ciberdelincuencia sigue siendo un enorme problema mundial. Según algunas estimaciones, los costos financieros sólo en Estados Unidos se han multiplicado por más de 100 durante la última década. Los informes revelan una economía en auge en la pornografía deepfake no consensuada. En las redes sociales se venden drogas y armas. Si bien algunas plataformas en línea se ven obligadas a hacer un mejor trabajo al filtrar contenido dañino, pueden hacer más. ]
Por tanto, Internet no es un espacio desregulado y revoltoso. Está gobernado. La IA se convertirá en otro componente de la gobernanza.
Esto requiere una combinación de presión cultural, presión institucional y regulación gubernamental. Pero me hace sentir optimista que lo hayamos hecho antes y que podamos hacerlo de nuevo.
***El control de la IA se convertirá en una consecuencia de la regulación de Internet, que es mucho más optimista de lo que hemos estado escuchando últimamente de algunos pesimistas de alto perfil. ***
Suleyman: Soy muy optimista acerca de los riesgos. Hay muchas cosas oscuras en mis libros. Definitivamente yo también vi eso. Simplemente creo que hay algo arriesgado en esto, que es una distracción completamente loca. 101 temas más prácticos que todos deberíamos discutir, desde la privacidad hasta los prejuicios, desde el reconocimiento facial hasta la moderación en línea.
Deberíamos reorientar la conversación hacia el hecho de que hacemos un muy buen trabajo regulando cosas súper complejas. Mire a la Administración Federal de Aviación: es increíble que todos adoptemos una regulación a 40.000 pies, y es uno de los modos de transporte más seguros jamás creados. ¿Por qué no celebramos? O piense en un automóvil: cada pieza se somete a pruebas de estrés al final de su vida útil y es necesario tener una licencia de conducir para hacerlo.
Para empezar, algunas industrias, como las aerolíneas, han hecho un buen trabajo al regularse. Saben que si no mantienen las cosas seguras, todos tendrán miedo y perderán negocios.
Pero también se necesita una regulación de arriba hacia abajo. Creo en el interés público, creo en los beneficios de los impuestos y la redistribución, creo en el poder de la regulación. Lo que pido es que el Estado tome medidas para solucionar el problema. Dado lo mucho que está en juego, ahora es el momento de actuar.
Referencias:
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Entrevista exclusiva con el fundador de DeepMind: La IA generativa es solo una etapa, el siguiente paso es la IA interactiva
Fuente original: Laboratorio de Innovación AGI
El cofundador de DeepMind, Mustafa Suleyman, quería crear un chatbot que pudiera usarse para algo más que chatear. En una conversación reciente con él, me dijo que la IA generativa es sólo una fase. Lo siguiente es la IA interactiva: robots que pueden completar las tareas que usted les asigna llamando a otro software y a otras personas. También pidió una regulación más estricta de la IA, argumentando que esto no sería difícil de lograr.
Suleyman no es el único que habla de un futuro lleno de software más autónomo. Pero a diferencia de la mayoría de la gente, es propietario de una nueva empresa valorada en miles de millones de dólares, Inflection, con un grupo de los mejores talentos de IA seleccionados entre DeepMind, Meta y OpenAI, y también ha llegado a un acuerdo con Nvidia, el mayor fabricante de chips de IA. . Suleyman practica lo que predica y ha invertido mucho dinero.
Suleyman dejó DeepMind y luego se mudó a Google para liderar un equipo dedicado a la política de IA. En 2022, fundó Inflection, una de las nuevas empresas de IA más novedosas, respaldada por una inversión de 1.500 millones de dólares de Microsoft, NVIDIA, Bill Gates y el fundador de LinkedIn, Reid Hoffman, convirtiéndose en la única empresa con la mayor escala de financiación. a OpenAI. A principios de este año, lanzó Pi, un competidor de ChatGPT. Acaba de ser coautor de un libro con el autor e investigador Michael Bhaskar sobre el futuro de la IA llamado The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century.
Muchos se burlarían del optimismo tecnológico de Suleyman, incluso de su ingenuidad. Por ejemplo, algunas de sus afirmaciones sobre el éxito de la vigilancia en línea parecen erróneas. Pero siguió convencido de que sus creencias eran sinceras y evangélicas.
De hecho, Suleyman tiene una experiencia inusual como multimillonario tecnológico. A los 19 años, abandonó la universidad y fundó la Línea Directa para Jóvenes Musulmanes, que ofrece asesoramiento telefónico. También trabajó en el gobierno local. Dijo que aporta muchos de los valores de esos esfuerzos a Inflection. La diferencia es que ahora podría hacer los cambios que siempre quiso, para bien o para mal.
La siguiente entrevista ha sido editada para mayor extensión y claridad.
*** Los inicios de su carrera, que incluyeron trabajo en una línea de ayuda para jóvenes y en el gobierno local, parecían estar en desacuerdo con el espíritu de Silicon Valley. Obviamente, estas experiencias son importantes para ti. Desde entonces, ha trabajado en el campo de la IA durante 15 años y este año cofundó su segunda empresa de IA de mil millones de dólares. ¿Puedes conectar los puntos entre estas experiencias? ***
Suleyman: Siempre me ha interesado el poder, la política, etc. Ya sabes, los principios de derechos humanos son básicamente una compensación, una negociación constante entre todas estas diferentes tensiones conflictivas. Puedo ver a los humanos luchando con esto: estamos llenos de nuestros propios prejuicios y puntos ciegos. El trabajo de los activistas, los gobiernos locales, nacionales, internacionales, etc., es lento, ineficiente y propenso a errores.
Imagínese si no tuviera los errores que cometen los humanos. Creo que es posible crear una IA que realmente refleje lo mejor de nosotros mismos y, en última instancia, genere mejores compensaciones, más consistentes y más justas en nuestro nombre.
*** ¿Sigue siendo esta tu motivación? ***
Suleyman: Por supuesto, quiero decir, después de DeepMind nunca tuve que volver a trabajar. Ciertamente no tengo que escribir un libro ni nada por el estilo. El dinero nunca ha sido un motivador. Ya sabes, el dinero siempre es sólo un subproducto.
Para mí, el objetivo nunca ha sido otra cosa que cómo hacer el bien en el mundo y cómo hacer que el mundo avance de una manera saludable y satisfactoria. Incluso en 2009, cuando comencé a pensar en ingresar al campo de la tecnología, pude ver que la IA representaba una forma justa y precisa de brindar servicios en el mundo.
***No puedo evitar pensar que habría sido más fácil decir esto hace 10 o 15 años, antes de que viéramos las muchas deficiencias de esta tecnología. ¿Cómo puedes mantenerte optimista? ***
Suleyman: Creo que nos importa mucho si eres optimista o pesimista. Ésta es una forma completamente sesgada de ver las cosas. Yo tampoco quiero ser esa persona. Quiero considerar los beneficios y las amenazas con frialdad. Desde mi punto de vista, podemos ver muy claramente que con cada paso aumenta la escala de estos grandes modelos lingüísticos y se vuelven más controlables.
Entonces, hace dos años, la conversación, que pensé que estaba equivocada en ese momento, fue: "Oh, simplemente van a seguir con diatribas racistas, parciales, tóxicas y que revuelven el estómago". en el tiempo. Creo que lo que la gente pasa por alto es el progreso año tras año y la trayectoria de ese progreso.
Por ejemplo, ahora tenemos modelos como el Pi que son increíblemente controlables. No puedes hacer que Pi sea racista, homofóbico, sexista, nada tóxico. No puedes permitir que guíe tu producción de armas biológicas o químicas, ni apoye tu deseo de tirar un ladrillo por la ventana de tu vecino. No puedes-
***Esperar. Cuéntame cómo lograste esto, ya que a menudo se considera un problema no resuelto. ¿Cómo garantizar que su modelo de lenguaje grande no diga cosas que usted no quiera decir? ***
Suleyman: Sí, obviamente no quiero hacer esa solicitud. Ya sabes, ¡inténtalo! Pi está en línea y deberías probar todos los ataques posibles. El jailbreak, el hacking instantáneo o cualquier otra cosa no funcionará en el Pi. No haré ningún reclamo. Este es un hecho objetivo.
Acerca de cómo... quiero decir, no entraré en demasiados detalles porque es un tema delicado. Pero lo más importante es que contamos con uno de los equipos más fuertes del mundo que ha creado todos los modelos lingüísticos más importantes en los últimos tres o cuatro años. Gente increíble, que hace muchos cálculos en un entorno extremadamente diligente. Damos prioridad a la seguridad desde el principio, por lo que el Pi no es tan atractivo como los modelos de otras compañías.
Echa un vistazo a Character.ai. [Character es un chatbot para el cual los usuarios pueden crear diferentes "personalidades" y compartirlas en línea para que otros puedan chatear. ] Es principalmente para juegos de rol románticos, y hemos dicho desde el principio que esto no es posible, no lo haremos. Si intentas decirle "Hola cariño" o "Hola linda" a Pi "y lo hará". rechazarte inmediatamente.
Pero sería increíblemente respetuoso. Si empiezas a quejarte de que los inmigrantes de tu comunidad te quitan el trabajo, Pi no te gritará ni te señalará con el dedo. Pi pregunta y ofrece apoyo, tratando de comprender de dónde proviene esta información y animándote gentilmente a sentir empatía. Sabes, este es un valor en el que he estado pensando durante 20 años.
*** Habla de tus valores y de querer hacer del mundo un lugar mejor, ¿por qué no compartir cómo lo haces para que otros también puedan mejorar sus modelos? ***
Suleyman: Bueno, porque también soy pragmático y estoy tratando de ganar dinero. Estoy intentando iniciar un negocio. Acabo de recaudar 1.500 millones de dólares y necesito pagar esos chips.
Mire, el ecosistema de código abierto está en auge y está haciendo un gran trabajo, y la gente está descubriendo trucos similares. Siempre asumo que sólo llevo seis meses de ventaja.
*** Volvamos a lo que quieres lograr. Los grandes modelos de lenguaje son claramente la tecnología actual. Pero ¿por qué seguirías apostando por ellos? ***
Suleyman: La primera ola de IA se centró en la clasificación. El aprendizaje profundo muestra que podemos entrenar computadoras para clasificar varios tipos de datos de entrada: imágenes, videos, audio e idiomas. Ahora estamos en la ola generativa, donde se toman datos de entrada y se generan nuevos datos.
La tercera ola será la fase interactiva. Por eso he creído durante mucho tiempo que las conversaciones son la interfaz del futuro. Ya sabes, estarás hablando con tu IA en lugar de simplemente hacer clic en botones y escribir.
Estas IA podrán actuar. Simplemente le asigna un objetivo general de alto nivel y utilizará todas las herramientas a su disposición para lograrlo. Hablan con otras personas, con otras IA. Esto es lo que vamos a hacer con Pi.
Este es un gran cambio que la tecnología puede permitir. Este es un momento muy, muy profundo en la historia de la tecnología que creo que mucha gente subestima. La tecnología actual es estática. En términos generales, hace lo que le dices que haga.
Pero ahora la tecnología está a punto de cobrar vida. Si se lo das, tendrá la libertad potencial de actuar. Estamos creando herramientas con este tipo de agencia, lo que realmente es un cambio radical en la historia de nuestra especie.
***Esta es exactamente la afirmación que preocupa a mucha gente. Quiere dar a las máquinas autonomía (una agencia) para influir en el mundo, pero también queremos poder controlarlas. ¿Cómo equilibras esas dos cosas? Siento que esto tensará la relación. ***
Suleyman: Sí, ese es un buen punto. Eso es lo que pone nerviosa a la gente.
La idea es que los humanos siempre estarán al mando. Básicamente, se trata de establecer límites que la IA no puede cruzar. Y garantizar esos límites crea una seguridad demostrable, desde el código real hasta la forma en que interactúa con otras IA (o humanos), y las motivaciones e incentivos de las empresas que crean la tecnología. Deberíamos descubrir cómo las agencias independientes e incluso los gobiernos pueden intervenir directamente para garantizar que no se crucen estas líneas.
***¿Quién establece estos límites? Creo que deben establecerse a nivel nacional o internacional. ¿Cómo llegaron a un acuerdo? ***
Suleyman: Quiero decir, ahora mismo se están planteando a nivel internacional todo tipo de propuestas para nuevos órganos de supervisión. Pero los límites también entran en juego a nivel micro. Le otorgará a su IA algunos permisos limitados para procesar sus datos personales, brindándole respuestas a algunas preguntas pero no a otras.
En general, creo que deberíamos ser muy cautelosos respecto de ciertas capacidades, o incluso descartarlas, en el futuro previsible.
***¿Por ejemplo? ***
Suleyman: Supongo que se trata de una especie de superación personal recursiva. No querrás que tu pequeña IA gire y actualice su propio código sin tu supervisión. Tal vez incluso debería ser una actividad autorizada, ya sabes, como tratar con ántrax o material nuclear.
O no permitimos drones en ningún lugar público, ¿verdad? Esta es una actividad autorizada. No puedes llevarlos a ningún lado porque representan una amenaza a la privacidad de las personas.
Creo que todo el mundo está entrando en pánico porque creen que no podemos regular esto. Pero esto es simplemente una tontería. Somos plenamente capaces de regularlo. Aplicaremos el mismo marco que ha tenido éxito antes.
***Pero puedes ver los drones cuando están en el cielo. Parece ingenuo pensar que las empresas sólo revelarán lo que están haciendo. ¿No complicaría eso la regulación? ***
Vigilamos muchas cosas en línea, ¿verdad? La cantidad de fraude y actividad delictiva en línea es baja. Hacemos un muy buen trabajo con el spam. Sabes, en general, el [problema] con la pornografía de venganza ha mejorado, aunque era bastante malo hace tres o cinco años. Encontrar contenido radical o material terrorista en línea es muy difícil. Comprar armas y drogas online es muy difícil.
[No todas las afirmaciones de Suleyman están respaldadas por datos. La ciberdelincuencia sigue siendo un enorme problema mundial. Según algunas estimaciones, los costos financieros sólo en Estados Unidos se han multiplicado por más de 100 durante la última década. Los informes revelan una economía en auge en la pornografía deepfake no consensuada. En las redes sociales se venden drogas y armas. Si bien algunas plataformas en línea se ven obligadas a hacer un mejor trabajo al filtrar contenido dañino, pueden hacer más. ]
Por tanto, Internet no es un espacio desregulado y revoltoso. Está gobernado. La IA se convertirá en otro componente de la gobernanza.
Esto requiere una combinación de presión cultural, presión institucional y regulación gubernamental. Pero me hace sentir optimista que lo hayamos hecho antes y que podamos hacerlo de nuevo.
***El control de la IA se convertirá en una consecuencia de la regulación de Internet, que es mucho más optimista de lo que hemos estado escuchando últimamente de algunos pesimistas de alto perfil. ***
Suleyman: Soy muy optimista acerca de los riesgos. Hay muchas cosas oscuras en mis libros. Definitivamente yo también vi eso. Simplemente creo que hay algo arriesgado en esto, que es una distracción completamente loca. 101 temas más prácticos que todos deberíamos discutir, desde la privacidad hasta los prejuicios, desde el reconocimiento facial hasta la moderación en línea.
Deberíamos reorientar la conversación hacia el hecho de que hacemos un muy buen trabajo regulando cosas súper complejas. Mire a la Administración Federal de Aviación: es increíble que todos adoptemos una regulación a 40.000 pies, y es uno de los modos de transporte más seguros jamás creados. ¿Por qué no celebramos? O piense en un automóvil: cada pieza se somete a pruebas de estrés al final de su vida útil y es necesario tener una licencia de conducir para hacerlo.
Para empezar, algunas industrias, como las aerolíneas, han hecho un buen trabajo al regularse. Saben que si no mantienen las cosas seguras, todos tendrán miedo y perderán negocios.
Pero también se necesita una regulación de arriba hacia abajo. Creo en el interés público, creo en los beneficios de los impuestos y la redistribución, creo en el poder de la regulación. Lo que pido es que el Estado tome medidas para solucionar el problema. Dado lo mucho que está en juego, ahora es el momento de actuar.
Referencias: