El campo de la inteligencia artificial (IA) ha creado computadoras que pueden conducir automóviles , sintetizar compuestos químicos , plegar proteínas y detectar partículas de alta energía a un nivel sobrehumano.

Sin embargo, estos algoritmos de IA no pueden explicar los procesos de pensamiento detrás de sus decisiones. Una computadora que domina el plegamiento de proteínas y también les dice a los investigadores más sobre las reglas de la biología es mucho más útil que una computadora que dobla las proteínas sin explicación.

Por lo tanto, los investigadores de IA como yo ahora estamos dirigiendo nuestros esfuerzos hacia el desarrollo de algoritmos de IA que puedan explicarse de una manera que los humanos puedan entender. Si podemos hacer esto, creo que la IA podrá descubrir y enseñar a las personas nuevos hechos sobre el mundo que aún no se han descubierto, lo que conducirá a nuevas innovaciones.

Un robot humanoide leyendo un libro.
Cuando se deja que las máquinas aprendan y resuelvan problemas a través de su propia experiencia, esto se denomina aprendizaje por refuerzo. Gremlin / E + a través de Getty Images

Aprendiendo de la experiencia

Un campo de la IA, llamado aprendizaje por refuerzo , estudia cómo las computadoras pueden aprender de sus propias experiencias. En el aprendizaje por refuerzo, una IA explora el mundo y recibe comentarios positivos o negativos basados ​​en sus acciones.

Este enfoque ha llevado a algoritmos que han aprendido de forma independiente a jugar al ajedrez a un nivel sobrehumano y han demostrado teoremas matemáticos sin ninguna guía humana. En mi trabajo como investigador de IA , utilizo el aprendizaje por refuerzo para crear algoritmos de IA que aprenden a resolver acertijos como el cubo de Rubik .

A través del aprendizaje por refuerzo, las IA están aprendiendo de forma independiente a resolver problemas que incluso los humanos luchan por resolver. Esto me hizo y a muchos otros investigadores pensar menos en lo que la IA puede aprender y más en lo que los humanos pueden aprender de la IA. Una computadora que pueda resolver el cubo de Rubik también debería poder enseñar a las personas cómo resolverlo.

Mirando dentro de la caja negra

Desafortunadamente, las mentes de las IA sobrehumanas están actualmente fuera del alcance de los humanos. Las IA son maestros terribles y son lo que en el mundo de la informática llamamos » cajas negras «.

Un estuche negro abierto
Los investigadores llevan décadas intentando comprender cómo las IA resuelven problemas. rockz / iStock a través de Getty Images Plus

Una IA de caja negra simplemente escupe soluciones sin dar razones para sus soluciones. Los científicos informáticos han intentado durante décadas abrir esta caja negra , y una investigación reciente ha demostrado que muchos algoritmos de IA realmente piensan de manera similar a los humanos. Por ejemplo, una computadora entrenada para reconocer animales aprenderá sobre diferentes tipos de ojos y oídos y reunirá esta información para identificar correctamente al animal .

El esfuerzo por abrir la caja negra se llama IA explicable . Mi grupo de investigación en el Instituto de IA de la Universidad de Carolina del Sur está interesado en desarrollar una IA explicable. Para lograr esto, trabajamos mucho con el cubo de Rubik.

El cubo de Rubik es básicamente un problema de búsqueda de caminos: encuentre un camino desde el punto A, un cubo de Rubik revuelto, hasta el punto B, un cubo de Rubik resuelto. Otros problemas de búsqueda de caminos incluyen la navegación, la demostración de teoremas y la síntesis química.

Mi laboratorio ha creado un sitio web donde cualquiera puede ver cómo nuestro algoritmo de IA resuelve el cubo de Rubik ; sin embargo, una persona tendría dificultades para aprender a resolver el cubo desde este sitio web. Esto se debe a que la computadora no puede decirle la lógica detrás de sus soluciones.

Las soluciones para el cubo de Rubik se pueden dividir en unos pocos pasos generalizados: el primer paso, por ejemplo, podría ser formar una cruz, mientras que el segundo paso podría ser colocar las esquinas en su lugar. Si bien el cubo de Rubik en sí tiene más de 10 a la 19 combinación de potencias posibles, una guía generalizada paso a paso es muy fácil de recordar y es aplicable en muchos escenarios diferentes.

Abordar un problema dividiéndolo en pasos suele ser la forma predeterminada en que las personas se explican las cosas entre sí. El cubo de Rubik encaja naturalmente en este marco paso a paso, lo que nos da la oportunidad de abrir la caja negra de nuestro algoritmo más fácilmente. La creación de algoritmos de IA que tengan esta capacidad podría permitir a las personas colaborar con la IA y dividir una amplia variedad de problemas complejos en pasos fáciles de entender.

Una imagen que muestra el proceso de pensamiento del algoritmo de IA de resolución de cubos de Rubik
Un enfoque de refinamiento paso a paso puede facilitar que los humanos comprendan por qué las IA hacen las cosas que hacen. Bosque Agostinelli , CC BY-ND

La colaboración conduce a la innovación

Nuestro proceso comienza con el uso de la propia intuición para definir un plan paso a paso pensado para resolver potencialmente un problema complejo. Luego, el algoritmo analiza cada paso individual y brinda retroalimentación sobre qué pasos son posibles, cuáles son imposibles y las formas en que se podría mejorar el plan. Luego, el ser humano refina el plan inicial utilizando los consejos de la IA, y el proceso se repite hasta que se resuelve el problema. La esperanza es que la persona y la IA eventualmente converjan en una especie de entendimiento mutuo.

Conocimiento profundo, diario. Suscríbase al boletín de The Conversation .]

Actualmente, nuestro algoritmo es capaz de considerar un plan humano para resolver el Cubo de Rubik, sugerir mejoras al plan, reconocer planes que no funcionan y encontrar alternativas que sí. Al hacerlo, brinda retroalimentación que conduce a un plan paso a paso para resolver el Cubo de Rubik que una persona puede entender. El siguiente paso de nuestro equipo es construir una interfaz intuitiva que permitirá que nuestro algoritmo enseñe a las personas cómo resolver el cubo de Rubik. Nuestra esperanza es generalizar este enfoque a una amplia gama de problemas de búsqueda de caminos.

Las personas son intuitivas de una manera incomparable con cualquier IA, pero las máquinas son mucho mejores en su poder computacional y rigor algorítmico. Este ir y venir entre el hombre y la máquina utiliza los puntos fuertes de ambos. Creo que este tipo de colaboración arrojará luz sobre problemas no resueltos anteriormente en todo, desde la química hasta las matemáticas, lo que conducirá a nuevas soluciones, intuiciones e innovaciones que, de otro modo, podrían haber estado fuera de alcance.

Forest Agostinelli, Assistant Professor of Computer Science, University of South Carolina

This article is republished from The Conversation under a Creative Commons license. Read the original article.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *