La verdad sobre ChatGPT – EAI, The Institute for Experiential AI

Los mayores defectos de ChatGPT son los de la IA: Le cuesta pensar de forma crítica y creativa, no puede explicar su comportamiento y sólo tiene un conocimiento superficial de la conducta ética. Esta crítica no es nueva. En la EAI, investigadores, especialistas en ética, ingenieros y científicos han defendido un enfoque de la IA más centrado en el ser humano, no sólo en el desarrollo de nuevos modelos lingüísticos, sino también en su aplicación en el mundo real.

Seis cosas que debes saber sobre ChatGPT de la mano de expertos en EAI

"GPT es bueno regurgitando conocimiento bien establecido si se incluye (con repetición en múltiples docs) en sus datos de entrenamiento. Para un corpus de entrenamiento bien elegido, ChatGPT es capaz de resumir o fusionar con eficacia múltiples fuentes. Pero ese es también su punto débil, ya que tiene poca comprensión semántica de lo que está fusionando. Lo que le cuesta es basarse en múltiples indagaciones, aplicar un pensamiento innovador a un problema y ser capaz de pensar críticamente sobre lo que proporciona como respuestas o rastrear las fuentes de la información. Esto incluye una falta de razonamiento de sentido común que acaba con afirmaciones claramente tontas sobre algunos temas que son "obvios" para los humanos. Esto subraya la necesidad de contar con el humano en el bucle a medida que aprovechamos estas nuevas e impresionantes capacidades para acelerar nuestra escritura, codificación, investigación y comprensión de la información."

-USAMA FAYYAD, DIRECTOR EJECUTIVO

"La afirmación de que ChatGPT es una fuerza para la democratización también se hizo para Internet, pero la desigualdad del mundo sigue aumentando. La democratización no es uniforme. Los modelos lingüísticos favorecen a las personas que tienen los conocimientos, el tiempo y el dinero para utilizarlos. De hecho, las respuestas [de ChatGPT] no son coherentes en todos los idiomas, lo que significa que el conocimiento no es coherente."

-RICARDO BAEZA-YATES, DIRECTOR DE INVESTIGACIÓN

"El reto ético no es sólo que carezcamos de suficiente regulación, que los profesionales no dispongan de suficiente orientación concreta, que haya escasez de estudiosos interdisciplinarios de la ética de la IA que puedan ayudar a navegar por las delicadas cuestiones planteadas por la IA, que no haya suficiente formación, educación en torno a la ética de la IA, o que muchas partes interesadas clave carezcan de suficiente comprensión de cómo funcionan estas tecnologías y cómo interactúan con los valores fundamentales. El problema es todo esto".

-JOHN BASL, PROFESOR ASOCIADO DE FILOSOFÍA

"Permitirá un nuevo tipo de intervención terapéutica, en la que la práctica del habla y el lenguaje son necesarias para mejorar. Los chatbots y los bots de voz también podrían ser útiles para compensar deficiencias que pueden excluir al individuo de participar en oportunidades educativas o vocacionales. La realidad es que algunas de estas tecnologías aún no están listas para el usuario medio y requieren más ajustes para garantizar que las respuestas de la IA sean precisas y pertinentes para la conversación. Veo estas capacidades como un cambio de función en la tecnología, pero no como algo que debamos temer o tratar como si surgiera de la nada."

-RUPAL PATEL, FACULTAD PRINCIPAL

"A diferencia de los humanos, los grandes modelos lingüísticos pueden 'leer' con suficiente rapidez para seguir el ritmo de la avalancha de nuevos artículos en las ciencias de la vida. Sin embargo, las versiones actuales siguen siendo insuficientes para el uso académico. Principalmente, esto se debe a que el tipo de modelo utilizado por ChatGPT no puede citar sus fuentes. Aunque es un maestro a la hora de "resumir" cuerpos complejos de literatura, ChatGPT no puede decir de dónde ha sacado una idea concreta, ni dónde se puede buscar más información. Su incapacidad para citar fuentes no sólo plantea consideraciones éticas, sino que es el principal obstáculo para una adopción más generalizada en las ciencias. Pero esto va a cambiar. Preveo que en los próximos dos años habrá grandes modelos lingüísticos capaces de resumir datos con la rapidez de ChatGPT y la responsabilidad de Wikipedia. Un ChatGPT que pueda citar sus fuentes cambiará la faz de la investigación en ciencias de la vida".

-SAM SCARPINO, DIRECTOR DE AI + LIFE SCIENCE

"Cualquier nueva tecnología que pueda afectar a la vida conlleva el mismo peligro de ser mal utilizada debido a la ignorancia y la codicia humanas. Estos son probablemente los dos mayores problemas que tiene la IA en la actualidad. Por eso es importante educar al público en general sobre los beneficios y peligros que puede conllevar el uso de la IA. Es importante que los organismos reguladores establezcan normativas que contengan lo poco escrupulosas que pueden llegar a ser algunas organizaciones. A lo largo de los siglos, se ha abusado de todas las nuevas tecnologías para obtener poder y riqueza, y la IA no será una excepción a menos que nos aseguremos de que su uso está regulado."

-AYAN PAUL, BECARIO POSTDOCTORAL