El mundo no está preparado para la próxima década de IA. – Piedunoticias

Gedeón Richfield: Si soy un cínico, por supuesto que no lo soy en absoluto…

Mustafá Suleiman: (Risita) de nada.

Lauren Goode: No Gedeón.

Gedeón Richfield: Puedo decirte que tú y la compañía de IA están haciendo un trato bastante bueno para ti. Porque le estás diciendo esto al gobierno. , por lo que voluntariamente estableceremos algunas barreras de seguridad e impulsaremos la agenda, y el principio de precaución determinará qué tan preventivo debe ser”. Entonces, la pregunta que hago es cuáles son los incentivos para que el sector privado realmente impulse la conversación porque tiene el conocimiento para establecer el estándar para el bien de la sociedad.

Mustafá Suleiman: Si logramos que se aprueben las reglamentaciones oficiales, creo que es un buen comienzo. Pero tienes razón. Creemos que una buena regulación es una función de tener un grupo muy diverso de personas que hablen, expresen sus preocupaciones y participen en el proceso político. Y ahora estamos abrumados por la indiferencia, la ira y la polarización. Pero creo que este es el momento decisivo. Donde hay suficiente tiempo, debemos dedicar mucho tiempo a hacerlo bien. Creo que nos espera una buena década para tener una conversación pública. Es en parte lo que estoy tratando de hacer con este libro y en parte lo que otros están tratando de hacer con el compromiso voluntario.

Gedeón Richfield: ¿Qué escenario predice que la mayoría de las personas ni siquiera pueden imaginar lo que podría pasar si no obtienen el control de estas tecnologías?

Mustafá Suleiman: Bueno, creo que en 15 o 20 años puedes imaginarte a un activista no gubernamental muy poderoso. Así que piense en los cárteles de la droga, las milicias y los delincuentes organizados. Es solo una organización con la intención y el motivo de causar un daño grave. Entonces, si las barreras de entrada para iniciar y llevar a cabo un conflicto están disminuyendo rápidamente, los países tienen una pregunta desafiante que hacer. tu propia condición? Si un grupo cada vez más pequeño de personas puede ejercer un poder similar al de un estado, ese es esencialmente el riesgo de una ola que se avecina.

Lauren Goode: Estoy muy interesado en lo que estás haciendo con Inflection. Debido a su experiencia, trabajó en política y trabajo social, eventualmente cofundó DeepMind y luego Google. Pero también escribiste un libro y pareces tener estas intenciones diplomáticas. Crees en la cooperación. ¿Por qué eres fundador de una startup?

Mustafá Suleiman: Soy más feliz cuando creo algo. Lo que realmente disfruto hacer es entender cómo funciona algo en profundidad, y me gusta hacerlo en un nivel micro. Me gusta pasar de lo micro a lo macro, pero no puedo quedarme en lo macro. Estoy obsesionado con lo que hago todos los días, y creo que esa es mi parte emprendedora. Yo estaba como, “¿Qué enviaremos mañana? qué hacer ¿Qué vamos a hacer?” Si tengo que elegir entre los dos, eso es lo que me hace más feliz y lo que más me gusta.