Tengo un blog de tecnología, SAP, Consultoría IT e Inteligencia Artificial, publico un artículo nuevo aproximadamente cada semana, trabajo, tengo hijos, hago ejercicio (intento), leo y tengo vida social.
¿Cómo es posible? Tus artículos los está escribiendo la inteligencia artificial.
Pues, ¡oh sorpresa!, eso no es así.
Por supuesto que uso ChatGPT para investigar y aprender sobre varios de los artículos que escribo. Pero esto tiene matices que vamos a ver.
Información de SAP
Esto es mi área de conocimiento, llevo más de 16 años trabajando en esto, empecé cuando mi única fuente de información era mundosap.com (hasta que me di cuenta que en español no iba a encontrar nada). Luego vinieron los foros de SAP, las paginas de help.sap.com, los cursos gratuitos de SAP, impartir cursos, luchar en proyectos, etc. Sé muchas cosas, pero desconozco muchísimas más, el mundo SAP es muy vasto y, como cualquier tecnología, está en continua evolución. Podemos decir que me suena todo un poco, sé por donde pueden ir las cosas.
Bueno, el tema es que cuando quiero investigar algo de SAP y uso ChatGPT, por ejemplo cuando tengo un problema en el trabajo, o estoy escribiendo de algo en el blog, ChatGPT se tira unos triples que ni Kobe Bryant. Y yo los identifico, porque sé lo que podría ser y me suena a mentira, porque busco fuentes alternativas o porque tengo sistema para corroborar.
En SAP la transacción para hacer un pedido de churros es la CHURRI
Las alucinaciones de ChatGPT (y cualquier otra IA)
No lo voy a explicar yo.
Está clarísimo. Lo importante es que «genera información incorrecta» que «suena plausible«. Y, como no sepas del tema del que habla, puedes creer que es correcta. Esto está relacionado con el artículo que escribí sobre la dependencia excesiva o «Overrelaince».
Esto me pasó el otro día, quería recalcular los precios de una Sales Quotation de un SAP CRM 7 por medio de un programa, algo que no es novedoso. SAP CRM 7 lleva años en usándose (desde el 2009). Podría buscar en mi repositorio histórico de código pasado donde he hecho esto, pero pensé que sería más rápido usar a mi amigo ChatGPT, pero enseguida vi que me estaba engañando.
Todo parece muy plausible, pero inútil, una pérdida de tiempo y frustrante
¿Cómo usar ChatGPT para temas tecnológicos?
Al final, lo que a mi me ha valido es pedirle que busque en internet y me de una lista de webs con un resumen del contenido. Esto sirve para enfocar el tema, ver qué trata cada web y acceder a investigar en aquellas que sí que sean relevantes para lo solicitado.
Esto ya es otra cosa
No queda otra que seguir leyendo internet para ver si alguien ha tenido la misma duda o aporta información que sea relevante para lo que quieras obtener, como siempre, pero guiado. Este método tampoco es perfecto, porque va a darte referencias que no encajan con lo que buscas, pero al tener el resumen de cada enlace, puedes descartarlo directamente.
En conclusión
No te creas ciegamente lo que dice la Inteligencia Artificial, tampoco te creas ciegamente lo que dice tu compañero de trabajo Paco. Ten espíritu crítico, contrasta la información, busca otras referencias. La Inteligencia Artificial es una herramienta, pero no va a solucionar todos tus problemas (por ahora). En ocasiones será frustrante porque ves que lo que te da no funciona, no existe o es incorrecto. Pero siempre, siempre, siempre te dará pistas que, si tienes olfato para saber rastrear, te pueden llevar a la solución.
¿Cuál es el mayor peligro de la Inteligencia Artificial?
Muchos dirán que el mayor peligro es el despertar de las máquinas a lo Terminator.
The Judgment Day
Otros dirán que el mayor peligro es la cantidad de puestos de trabajo que van a quitar.
Despidos masivos por IA
O incluso un futuro tipo Matrix en el que la humanidad sean las baterías de las máquinas:
Otros piensan que el peligro es que nos convierta en imbéciles (¿más?) que tengamos la vida resuelta y no necesitemos esforzarnos para nada. Tipo Wall-E.
Pero esto es mucho futuro y, en tecnología, como en otras muchas cosas, pensar en un horizonte de muchos años, a no ser que sea Isaac Asimov o Julio Verne, es imposible acertar. Pero hay un peligro que ya está entre nosotros y es real, y que con el tiempo puede acentuarse.
Dependencia Excesiva – Overreliance
La dependencia excesiva o Overreliance en la IA se refiere a la tendencia de delegar demasiadas funciones y responsabilidades a los sistemas de inteligencia artificial, confiando en que estas tecnologías tomarán decisiones críticas sin la intervención humana. Esto puede abarcar desde tareas simples, como recomendaciones de productos, hasta decisiones de gran impacto, como diagnósticos médicos o políticas públicas.
Porque, cualquiera que haya jugado con la Inteligencia Artificial, habrá pasado por el estado de «esto es buenísimo» y habrá visto que hay muchas tareas que se pueden delegar en la IA. Y, por supuesto, muchas tareas pueden delegarse y las cosas funcionan. Y cada vez más, pero de ahí a dejar todo el control a una Inteligencia Artificial, hay un salto grande.
Si conoces este clip, estás en mi equipo
Ejemplo – ‘El chatBot descontrolado’
Pongamos un ejemplo, hacemos un chatbot de atención al cliente en nuestra empresa. Al principio y en entornos controlados, todo funciona a las mil maravillas. Podemos complicarlo todo lo que queramos, que tenga acceso a la Base de Datos, que consulte el estado de Stock, Pedidos, Pagos, etc. Además que pueda comunicarse con el cliente con lenguaje natural. ¿Cuánta gente de call center nos ahorramos? Mucha, pero no hay que pensar en que no tengamos que tener agentes humanos de segunda línea. Si dejamos al cliente sin un segundo nivel de resolución humano, y lo supeditamos todo a la Inteligencia Artificial, corremos el riesgo que las respuestas o los caminos de conversación entre el cliente y nuestra empresa se descontrolen. Todos hemos visto las «alucinaciones» de chatGPT, Copilot, Gemini, etc. que cuando no saben algo, directamente se lo inventan.
Para ello tenemos que entrenar muy bien a nuestro chatbot, acotar mucho su rango de actuación y habilitar una segunda línea de contacto humano a la que pasar la conversación si esta se sale del rango de actuación acotada del chatbot.
Riesgos de la Dependencia Excesiva
Por entrar en materia y mostrar diversas categorías de riesgos que la Dependencia Excesiva (Overreliance) puede traer tendríamos:
Pérdida de Habilidades Humanas
A medida que las máquinas se encargan de más tareas, existe el riesgo de que las personas pierdan habilidades críticas. Un ejemplo actual es la dependencia excesiva en GPS, que hace que nuestro cerebro deje de necesitar fomentar el área de la memoria espacial y las habilidades de navegación y orientación. Lo mismo que pasa con muchas habilidades pre-Internet y pre-Smartphones con la gente que ya nació con estas tecnologías en su vida.
Confiar ciegamente en los sistemas de IA puede reducir la capacidad de los humanos para cuestionar y verificar decisiones. Esto es especialmente preocupante en áreas como la medicina o la justicia, donde la capacidad de análisis crítico es crucial.
¿Qué está pasando ahora en la educación? Ahora mismo es un reto hacer que los jóvenes hagan trabajos de investigación, análisis y estudio sobre cualquier tema. En la mayoría de los conocimientos, el resultado es lo de menos, lo importante es el camino, y eso es lo que las inteligencias artificiales están quitando de la ecuación. Veo un futuro de mucha gente disfuncional.
International Journal of Educational Technology in Higher Education
En este estudio si bien se sacan como conclusiones algunos beneficios potenciales, como que ChatGPT puede ser útil para mejorar la creatividad en la escritura, proporcionar retroalimentación rápida en la programación y facilitar el aprendizaje individualizado.
También concluye que el uso de la IA trae desafíos y riesgos ya que la dependencia excesiva en estas herramientas puede llevar a una menor participación cognitiva, pérdida de habilidades críticas y problemas de integridad académica. Los estudiantes que dependen demasiado de la IA pueden exhibir una disminución en la retención de memoria y en las habilidades de pensamiento crítico. Vamos, que estamos involucionando.
Fallos Técnicos y Vulnerabilidades
Los sistemas de IA no son infalibles, pueden cometer errores, ser hackeados o fallar debido a problemas técnicos. La dependencia excesiva en estos sistemas puede resultar en catástrofes cuando ocurren fallos inesperados. No te quiero contar lo que pasa en mi casa cuando se va Internet, no puedo ni encender las luces.
La implementación de IA en servicios como la atención al cliente puede llevar a una experiencia deshumanizada. Las máquinas, a diferencia de los humanos, carecen de empatía y comprensión contextual, lo que puede afectar negativamente la calidad del servicio. El ejemplo del «chatBot descontrolado» es un ejemplo de esto. Además también revisa si puedes el artículo de ‘El test de Turing’.
Las IA pueden perpetuar sesgos presentes en los datos con los que fueron entrenadas. Si dependemos demasiado de estas tecnologías sin supervisión adecuada, podemos reforzar y amplificar las desigualdades y discriminaciones existentes. El ejemplo básico es, si una IA es entrenada con los datos históricos pensará que los doctores son siempre hombres, las enfermeras mujeres y Alemania un país que crea Guerras mundiales.
También aquí juega el «Sesgo de Confirmación» (tendencia a buscar, interpretar y recordar información que confirme nuestras creencias preexistentes, mientras se ignora o se minimiza la evidencia contraria.) Por el cual el usuario/humano puede buscar en la IA las respuestas que refuercen su propio sesgo, amplificándolo.
Confianza en Resultados Incorrectos
La sobredependencia puede llevar a aceptar sin cuestionar resultados incorrectos, lo que puede ser particularmente peligroso en campos como la medicina y la justicia, donde los errores pueden tener consecuencias severas. A mi me ha dicho ChatGPT que, con lo que le he dicho, estoy embarazado, ya le he puesto nombre y todo.
Conclusión
Y lo de los futuros distópicos de rebelión de las máquinas como Terminator o Matrix no va a pasar, porque se lo he preguntado a ChatGPT y me ha dicho:
El Test de Turing es un experimento, propuesto por Alan Turing (uno de los padres de la informática), en el cual un humano interactúa con un agente no revelado, que podría ser otro humano o una máquina. Ambos están separados de tal forma que no pueden verse ni escucharse, comunicándose únicamente a través de texto. Si después de la interacción el humano (5 minutos) no puede distinguir si estaba conversando con una máquina o con otro humano, se dice que la máquina ha pasado el Test de Turing.
La revolución de las máquinas
Importancia del Test de Turing
Este test ha sido de suma importancia para medir el avance y las capacidades de los sistemas de IA. Aunque es cierto que el test tiene limitaciones y ha sido objeto de críticas, sigue siendo una referencia en la discusión sobre la «inteligencia» de las máquinas.
Es como el índice Big Mac, una forma relativamente sencilla y general para intentar medir y comparar avances o características comunes. En el caso del Test de Turing sirve como punto de inflexión para medir la capacidad de imitar a un humano y mantener una conversación humana coherente que no sea distinguible de la de un humano real.
Limitaciones y Críticas
Muchos expertos argumentan que pasar el Test de Turing no significa necesariamente que una máquina tenga conciencia o emoción. Además, algunas IA que son altamente especializadas en tareas específicas podrían fallar el test pero seguir siendo consideradas «inteligentes» en su dominio particular. Es decir, es una medida muy parcial y sesgada para medir la «inteligencia» de una máquina.
¿Y tú? ¿Cómo sabes que no eres una máquina?
El Test de Turing y GPT-4
En el caso del artículo, que realmente hace referencia al estudio Does GPT-4 Pass the Turing Test? de los investigadores Cameron Jones y Benjamin Bergen, se determina que no ha pasado el Test de Turing ya que sólo consigue «engañar» al 41% de las personas.
El problema es que GPT está especialmente diseñado para ser un asistente y confesar continuamente que es una inteligencia artificial. Habla en primera persona refiriéndose a «ser entrenado en x fechas máximo», no esconde su condición y es, a veces en exceso, muy servicial.
Conclusión
Estoy seguro que si se entrenarse a un modelo de lenguaje LLM en la tarea de hacerse pasar por un humano conversando, se pasaría este test sin problema. Al igual que se han hecho máquinas que han ganado al ajedrez a Kasparov o a jugar al Go o que son capaces de realizar conducción autónoma. El objetivo no es crear una IA que lo haga todo, sino que lo que haga lo haga lo mejor posible. Y, admitamoslo, hay humanos que les cuesta hacerse pasar por humanos. ¿Cómo no lo van a hacer unas maquinas?
Por último, una pregunta. ¿Sabes cuántas de las interacciones en Chat o Email que has realizado con empresas en los últimos meses, son realmente personas? La respuesta no la sabemos, pero da igual mientras que el propósito se cumpla.
¡Ay pillín! ¡Que has estado chateando con la tostadora!
En los últimos años siempre que se había hablado de Inteligencia Artificial en SAP escuchábamos. SAP Leonardo (machine learning) o ya más recientemente los procesos asistidos por IA del SAP Build Process Automation como la extracción inteligente de datos de facturas.
Ahora le toca a SAP implementar en sus procesos la IA generativa, SAP anunció el pasado 26 de septiembre su nueva apuesta por la inteligencia artificial generativa SAP Joule.
Pero antes de seguir con SAP Joule vamos a definir algo necesario.
¿Qué es la Inteligencia Artificial Generativa?
La Inteligencia Artificial Generativa se refiere a un subcampo de la IA que se centra en crear contenido nuevo y original, que puede variar desde texto, imágenes, música hasta datos sintéticos, mediante el aprendizaje automático y las redes neuronales profundas. A diferencia de otros tipos de IA que se diseñan para reconocer patrones, analizar datos o predecir resultados a partir de la información existente, la IA generativa «genera» algo que no existía previamente.
Vamos, lo que muchos humanos no saben hacer
¿Qué es SAP Joule?
Partiendo de la base que no lo he podido probar (ya me gustaría) y que pocos lo habrán hecho, lo que voy a contar a continuación es en base a documentación de SAP (marketing) bien en artículos como en videos. Vamos a rascar un poco la corteza a ver si sacamos algo más.
Para la realización de este artículo me voy a basar, además del enlace del anuncio, en los siguientes enlaces:
Según Christian Klein (seguro que eshermano de Calvin) CEO de SAP.
Joule will know what you mean, not just what you say.
Christian Klein, CEO de SAP
Si ya teníamos a Leonardo (SAP), Conversational AI (SAP), Watson (IBM), GPT (OpenAI), Llama (Meta), Bard (Google) o Copilot (Microsoft) ahora tenemos Joule de SAP haciendo referencia a la unidad de medida internacional de trabajo.
Vamos a ver su video de presentación.
Temazo!
La buena noticia (lógica por otro lado) es que va a ser integrada en las soluciones SAP, permitiendo apoyar procesos de negocio con una IA conversacional en lenguaje natural.
A día de hoy ya está implementada (habrá que ver como funciona) en procesos de recursos humanos (SAP SuccessFactors), gestión financiera (SAP S/4HANA cloud public Finance), cadena de suministros (SAP Integrated Business Planning), y experiencia del cliente (Sales Cloud v2), así como en SAP BTP.
Tiene buena pinta
Joule para SAP Customer Experience (CRM-CX)
Podemos ver los procesos en SAP Sales & Service Cloud V2 en los que aplica y puede ayudar.
Podemos ver en un artículo publicado el 3 de enero en SAP Community lo que ya está ofreciendo en el Sales & Sercive Cloud v2.
Rishi Hemdev – SAP Product Manager Sales & Service Cloud
Viene fuerte la versión 2 de Sales & Service Cloud
Vamos a desgranarlos:
Recomendador de Borradores de Correo Electrónico: Mejora la comunicación con los clientes al crear borradores de correo electrónico personalizados, basados en el historial de interacción, asegurando mensajes relevantes y oportunos.
Potenciador de Leads: Enriquece la información de leads con puntos de conversación significativos y personalizados, apoyando a los equipos de ventas en la preparación de sus acercamientos.
Resumen de Interacción de Casos: Simplifica el seguimiento de casos de servicio al generar automáticamente resúmenes claros y concisos de cada interacción, permitiendo una revisión rápida y eficiente.
Sinopsis de Cuenta: Proporciona una visión integral de las cuentas de clientes, resumiendo la información clave para facilitar una gestión de relaciones más informada y estratégica.
De la ‘Sinopsis de Cuenta’ a que Joule sea el primer nivel de soporte al cliente (chat, email o incluso telefónico) queda poco. Me temo que gran parte de las consultas de cliente las va a poder responder, en un futuro cercano, Joule accediendo a la ficha del cliente y sus datos transaccionales. Los call centers enormes y los call centers subcontratados tendrán que menguar.
Joule en SAP Success Factors (HR)
Podemos ver el video oficial de las funcionalidades de Joule en SuccessFactors.
Joule para SAP Ariba Category Management
En la gestión de compras y proveedores también se ha añadido la posibilidad de usar SAP Joule.
Joule para SAP BTP Cockpit
Ayuda a la administración de SAP BTP
Joule para SAP Build Process Automation
Como vimos en la entrada sobre SAP Build, una de sus áreas es el SAP Build Process Automation.
Mi Opinión
Empieza la fiesta, pero es importante incidir en el verbo «Empieza», hay muchas áreas donde una IA Generativa puede ser usada dentro del ecosistema de gestión empresarial, como pudimos ver en el artículo Inteligencia Artificial – Usos Corporativos. Si me conoces y has leído el blog el último año pensarás que estoy dando saltos de alegría, la unión de IA y SAP, pero llevo mucho tiempo conociendo a SAP, y soy cauto. Tiene buena pinta, pero el papel y el video lo soporta todo, no obstante el camino es este. Supongo que tardaré en poder tocar un ejemplo de SAP Joule (lo intentaré desde mi posición), pero estaré al tanto de nuevas novedades.
No he hablado de cosas muy novedosas como SAP Build Code o SAP Start, porque haré artículos al respecto cuando termine de investigar sobre ello.
Este va a ser un articulo diferente, recopilación de lo que ha sido y podrá ser la Inteligencia Artificial en 2024. Tal como puse en el artículo Máster Online en IA e Innovación la frase de Pau Garcia-Milà:
Las revoluciones industriales y digitales tienen un punto en común. Cuesta ver que estás en ellas cuando te toca vivirlas de lleno.
Pau Garcia-Milà
Bajo mi punto de vista, y de mucha otra gente, estamos en el inicio de una nueva era, de un cambio de paradigma en muchos ámbitos, y en el inicio de unos avances como nunca antes hemos visto gracias a la Inteligencia Artificial.
2024 como punto de inflexión
Tiene pinta que 2024 va a ser el año de la Inteligencia Artificial.
Podemos ver también la entrevista que Bill Gates le ha hecho a Sam Altman (CEO de OpenAI). Que es muy interesante:
Donde tratan temas tan interesantes como:
Hitos clave del futuro de la IA: Altman comenta que ve como siguiente hito la multimodalidad. Es decir, que la entrada y salida puedan darse desde distintos canales. Voz a imagen, Imagen a texto, Video a Imagen etc…
Áreas de progreso: Altman comenta que las áreas más importantes de progreso serán en torno a la capacidad de razonamiento y la fiabilidad. Si le preguntas a GPT-4 la mayoría de las preguntas 10,000 veces, una de esas 10,000 es probablemente bastante buena, pero no siempre sabe cuál. El que siempre te de la mejor de las respuestas es la mejora en fiabilidad.
Personalización y Adaptabilidad: Otra de las áreas de mejora, desde el punto de vista de Altman, es la personalización y adaptabilidad de la IA a tus propios datos. La capacidad de saber sobre ti, tu correo electrónico, tu calendario, cómo te gusta reservar citas, conectado a otras fuentes de datos externas. Es decir, que sea un asistente de tu vida, personal y profesional.
Regulación: Altman propone que la IA pueda ser regulada como se hace con la energía nuclear, que haya un organismo regulador global que mire esos sistemas superpoderosos, como el Organismo Internacional de Energía Atómica.
Trabajo y productividad: Hay un concepto muy interesante en este punto, Altman no comenta solo que la IA puede acelerar los trabajos actuales, es decir que un programador trabaje x3. Sino que además, y debido a esto, le de la posibilidad a ese programador a hacer cosas cualitativamente mejores, a pensar en otras áreas de mejora ya que lo básico está cubierto. Comenta que por supuesto va a ser un reto a nivel sociedad, y comentan que, a priori, va a afectar más a los trabajos de «cuello blanco» (White collar) que a los de «cuello azul» (Blue Collar). Es decir, a los trabajos más especializados y con mayor nivel de estudios y capacitación.
Robótica e IA: Altman comenta que ellos empezaron primero por la parte de la robótica, pero vieron que era necesario preparar primero bien el «cerebro» de todo esto. Pero que se están haciendo avances en ambos mundos y que, cuando esto se junte, los trabajos de «cuello azul» se verán también afectados.
La adopción masiva de la IA
El 2023 ha sido el año de la adopción masiva de la inteligencia artificial a nivel uso personal:
Pero le falta la adopción empresarial. Yo hice un artículo de los usos corporativos que le veo a la IA ‘Inteligencia Artificial – Usos Corporativos‘. Así que ya sabéis, si veis a SAP, Google, Microsoft o Amazon implementando estas ideas será que se han leído el artículo y me han copiado. ¡Ja! ¡Que tengo un primo segundo abogado!, ¡os voy a hundir a pleitos!
Los primeros avances gracias a la IA
Y el 2023 fué el año en el que las Inteligencias artificiales han empezado a dar sus frutos:
Pero de esto vamos a tratar este tema con detenimiento en otro artículo.
Retos de la Inteligencia Artificial
Si bien puede ser el año en el que empiecen a verse los retos que toda revolución industrial implica, como comenté en el artículo La Inteligencia Artificial nos quitará el trabajo ya hay voces expertas que hablan de este cambio laboral:
«Estudiar matemáticas o ingenierías puede ser a día de hoy un error»
«Los empleados en ciertos trabajos relacionados con la tecnología y la ciencia corren el riesgo de sembrar sus «propias semillas de autodestrucción» a medida que avanza la IA»
Christopher Pissarides Premio Nobel de economía del año 2010
Luego viene el FMI, que no es amigo de dar buenas noticias, y mete miedo a la gente:
También Mustafa Suleyman el Co-Fundador de DeepMind (comprada por Google) ve que, tal y como se está enfocando la IA, sirve como herramienta de reemplazo de mano de obra humana. No le falta razón, pero para mi es una visión sesgada.
Necesitamos un IRPR (Impuesto sobre la Renta de las Personas Robóticas) pero ya. Que a los humanos ya nos quitan mucho.
Resiliencia a los Robots
Para medir la probabilidad de que tu trabajo sea asumido por robots desde el ‘Laboratory of Intelligent Systems’ de la Escuela politécnica de la Universidad de Laussane han hecho una web llamada Resilience to Robots. En mi caso, probando varios conceptos, la cosa no pinta del todo mal.
Si eres taxista, camionero o camarero no mires
Obviamente esto no va a ser inmediato. Quizás nuestra generación no se vea enormemente afectada. Pero ¡Ay! de aquel que escuche de su hijo/a «Quiero ser camionero»
Que tiemblen los artistas
Pero también van a pasar cosas locas, muy del estilo de Black Mirror (si no has visto esta serie quizás te toque verla en el MundoReal™):
Lo de Bad Bunny es gracioso. Hacen una canción con una IA imitando a Bad Bunny y triunfa. Y Bad Bunny se enfada porque no es suya y no ve un duro. Creo que vamos a ver mucho de esto y las leyendas de la música nunca, pero nunca, van a morir, porque estarán sacando discos hechos por Inteligencia Artificial imitando su estilo hasta que dejen de dar beneficios.
Por último, como nota graciosa, este montaje de portada de El Jueves con Mortadelo y Filemón que se ha publicado en Twitter (perdón X).
Pero no seamos como el FMI (asusta viejos), mirado desde otro punto de vista esto viene para mejorarnos la vida y llevarnos, como civilización, a otro nivel. Esto y la Fusión Nuclear controlada puede hacer que nuestros paradigmas de vida y trabajo cambien drásticamente y para bien.
¿Vamos a terminar viendo un futuro distópico o utópico a lo Wall-E?
Tik Tok y pizza Ese es mi trabajo
¿O ya estamos en él?
Año nuevo 2024 – París – Campos Elíseos Esto es real pero parece un capítulo de Black Mirror
Jorge Ocampos 