El padrino de la IA, Geoffrey Hinton, tiene planes prometedores para mantener el futuro amigable con la IA.

Parecía que los científicos estaban personificando un sistema artificial que les decía constantemente a los legos y periodistas que no lo hicieran. “Sería una tontería antropomorfizar la mayoría de las cosas, por lo que los científicos tratan de no hacerlo”, admite Hinton. “Pero aprenderán esas cosas de nosotros y aprenderán a comportarse como nosotros verbalmente. Así que creo que tiene mucho sentido antropomorfizarlos”. Si los poderosos agentes de IA están capacitados en la suma total del conocimiento digital humano, incluida una gran cantidad de conversaciones en línea, las cosas pueden volverse aún más tontas. ~ no Espera la acción humana.

Pero, ¿qué pasa con la objeción de que los chatbots nunca pueden entender lo que hacen los humanos? Eso es porque esos robots de lenguaje son solo impulsos en chips de computadora sin experiencia directa del mundo. Después de todo, lo que hacen es predecir la siguiente palabra necesaria para enumerar las respuestas que estadísticamente satisfacen el mensaje. Hinton incluso nosotros En realidad, no te encuentres con el mundo cara a cara.

“Algunas personas piensan que hay una última barrera. (robots) así que realmente entendemos las cosas, pero no entendemos las cosas”, dice Hinton. “Eso es solo una mierda. Porque predecir la siguiente palabra requiere entender cuál es la pregunta. No puedes predecir la siguiente palabra sin entenderla, ¿verdad? Por supuesto, están entrenados para predecir la siguiente palabra, pero como resultado de predecir la siguiente palabra, entienden el mundo. Porque solo se puede hacer de esa manera”.

Entonces esas cosas… ¿Puede haber percepción? No quiero creer que Hinton se está poniendo como Blake Lemoine conmigo. Y él piensa lo contrario. Profundizando en la maleza, Hinton dijo en broma: “Déjenme continuar mi nueva carrera como filósofo. “Dejemos de lado la percepción y la conciencia aquí. a mí En realidad, no percibas el mundo directamente. Lo que creo que está en el mundo no está realmente allí. Cuando pasa algo, viene a mi mente y realmente veo lo que hay dentro de mí. mental de inmediato. Eso es lo que pensaba Descartes. Y luego está la cuestión de cómo estas cosas en mi mente se conectan con el mundo real. ¿Y cómo conoces realmente el mundo real? Hinton continúa argumentando que, dado que nuestras propias experiencias son subjetivas, no podemos descartar que las máquinas puedan tener experiencias igualmente válidas. “Desde ese punto de vista, es bastante razonable decir que estas cosas ya pueden tener experiencias subjetivas”, dice.

Ahora imagine la posibilidad de que las máquinas realmente puedan entender el mundo, que puedan aprender trucos humanos y otros malos hábitos, y que los sistemas gigantes de IA puedan procesar mucha más información de la que nuestros cerebros pueden procesar. Al igual que Hinton, ahora tenemos una visión más informativa de los resultados futuros de la IA.

Pero no estamos necesariamente en un viaje inevitable hacia el desastre. Hinton propone enfoques tecnológicos que podrían mitigar el juego de poder de la IA contra los humanos, como la computación analógica, un descubrimiento en biología y con lo que algunos ingenieros creen que deberían funcionar las computadoras del futuro. Fue el último proyecto en el que trabajó Hinton en Google. “Funciona para la gente”, dice. Adoptar un enfoque analógico para la IA sería menos arriesgado, explica Hinton, porque cada instancia de hardware analógico tiene cierta singularidad. Los sistemas analógicos, como nuestras pequeñas mentes mojadas, no pueden integrarse tan fácilmente en una colmena de inteligencia como Skynet.