viernes, noviembre 14, 2025
viernes, noviembre 14, 2025
viernes, noviembre 14, 2025
spot_img
InicioINMEDIATEZChispazos por el mundoEl error de creer en la “verdad” de los agentes de inteligencia...

El error de creer en la “verdad” de los agentes de inteligencia artificial

Me encontré con un artículo cuyo título era una queja sin más: “Tenemos un gran problema con los agentes de IA, se equivocan el 70 por ciento de las veces”. Bueno, aumentemos los controles y esperemos que la tecnología avance, también confiemos en que el aprendizaje automático y el “razonamiento digital” se desarrollen aún más. Sin embargo, no nos quejemos sin más, porque hay un error al respecto.

Ricardo Chacón – ORCID: 0000-0002-3357-6474|Director de la Escuela de Ciencias de la Comunicación –UJMD 7 de julio 2025

Comencemos explicando tres cuestiones: uno, tal como lo explicamos hace un par de meses en este TUESPACIO, un agente de inteligencia artificial se define como un sistema concebido para detectar su entorno mediante sensores, procesar la información recabada y actuar de forma autónoma para lograr metas específicas; su función principal consiste en analizar y comprender su entorno con el fin de tomar decisiones fundamentadas sin requerir intervención humana directa. 

Algunas de las características que muestran los agentes de inteligencia artificial, son: apreciación, y lo hacen por la recopilación de datos del entorno mediante la utilización de sensores; evaluación de los datos recabados, toma de decisiones tras la recolección y análisis, cuestiones que se llevan a cabo con gran autonomía, sin la intervención directa humana. 

Esto significa que se pueden programar agentes de inteligencia artificial para realizar tareas «humanas» y tomar decisiones con gran autonomía. 

Dos, por otro lado, el futuro de los agentes de inteligencia artificial es prometedor. Tienen un inmenso potencial para revolucionar la manera en que interactuamos con la tecnología. Se anticipa que su habilidad para aprender y adaptarse mejorará constantemente, lo cual permitirá aplicarlos en áreas aún más variadas. 

En tercer lugar, los agentes de inteligencia artificial «sustituyen» a los profesionales humanos en muchas tareas de distintas áreas. Especialmente en actividades repetitivas y claramente definidas, como planificar medios, responder correos u organizar una agenda detallada. Sin embargo, no son asistentes, secretarios ni mucho menos jefes de procesos, productos o servicios. En resumen, no reemplaza a un jefe, a un estratega ni a un humano con principios y valores éticos y creativos. Estos humanos deben convivir y sobrevivir con otros humanos. 

Por esto planteaba que es un error, achacarle y lamentarse a los agentes de inteligencia artificial que se equivoquen; no son perfectos.   

En este sentido, y luego de refrescar estas ideas, ahora podemos comentar el trabajo sobre los agentes de inteligencia artificial, en el que se plantea, que no son más eficaces que una escopeta de feria. Esta conclusión proviene de una investigación reciente realizada en la Universidad Carnegie Mellon (CMU) y la Universidad de Duke. 

El investigador Graham Neubig, profesor de CMU, explicó en The Register que se inspiró en un artículo del año 2023 de OpenAI. En el texto se discutían las tareas que podrían ser suplantadas por sistemas de inteligencia artificial. Sin embargo, tal como él expresaba, «su metodología consistió en consultar a ChatGPT si dichas tareas podrían ser automatizadas». En dicha investigación, intentaron corroborarlo al solicitar a varios agentes de inteligencia artificial que realizaran tareas que, teóricamente, deberían hacer los profesionales de esos trabajos. Los resultados, erráticos a veces en un 70 por ciento. 

Javier Pastor, editor senior de la publicación especializada TECH, retoma el trabajo en el que los investigadores crearon una empresa ficticia para que esta accediera a los diversos servicios brindados por los agentes de inteligencia. Los resultados fueron erróneos en un alto porcentaje. El mejor de todos los servicios prestados fue CLAUDE SONNET 4, que logró resolver un 33.1 por ciento de las tareas propuestas, por detrás es CLAUDE 3.7 SONNET, con un 30.9 por ciento de certeza, y atrás GEMINIES 2.5 PRO, con un 30.3 por ciento. 

Entre otros fallos detectados, hubo agentes negándose a enviar un mensaje a colegas que formaban parte del proceso, otros agentes fueron incapaces de gestionar una ventana emergente, o pop-up, un elemento interactivo que aparece de forma repentina en la pantalla del usuario mientras navega por un sitio web. Su función principal es captar la atención del usuario y presentarle un mensaje o contenido específico. 

En uno de los casos detectados, un agente que debía consultar a una persona en ROCKETCHAT una alternativa OPEN SOURCE a SLACK) no la encontró, así que le “cambió el nombre a otro usuario para darle el del usuario con el que debía contactar”. 

De fondo, y a partir de estos datos, surge el dilema siguiente: los agentes de inteligencia artificial pueden sustituir las tareas de humanos… más de fondo, si la inteligencia artificial es tan competente como la inteligencia humana…. 

De reemplazar a los empleados, nada se puede hacer. Estos investigadores revelan que los modelos de inteligencia artificial tienen tasas de éxito globalmente moderadas, generalmente alrededor del 58% en escenarios de un solo turno. Los hallazgos muestran que estos modelos presentan tasas de éxito similares en escenarios de un solo turno [de ejecución]. Sin embargo, su rendimiento se reduce considerablemente a aproximadamente el 35% en escenarios multiturno». En realidad, aclaraban que «los agentes generalmente no están bien preparados y no tienen las cualificaciones necesarias para realizar tareas muy complejas «. Algunos expertos mencionan que la inteligencia artificial podría impactar significativamente diversos roles laborales. Este riesgo parece haber sido anticipado.  
 
Un futuro incierto. A estos resultados discretos se añade la predicción de la firma Gartner. Según sus investigaciones, más del 40% de los proyectos de desarrollo de agentes de inteligencia artificial se cancelarán a finales del año 2027. La responsable principal del informe, Anushree Verma, indicaba que «En la actualidad, la mayoría de los proyectos de inteligencia artificial agentica son experimentos o pruebas de concepto en su etapa inicial, impulsados principalmente por la publicidad y frecuentemente mal implementados». El mensaje es claro: hay demasiadas expectativas sobre los agentes de inteligencia artificial. Sin embargo, la tecnología actual muestra que su implementación es problemática y limitada en este momento. 

Repito una vez más, la pregunta es si la IA es ya tan buena como la inteligencia humana….no, no lo es, como tampoco entendemos y tratemos de sustituir sin más al hombre por la máquina…..el pensamiento crítico, el pensamiento creativo e innovador, los principios éticos son fundamentales y no los podemos olvidar en ningún momento… Igual sucede con la visión y concepción de que la inteligencia artificial, y sus agentes, no son más que eso, instrumentos, herramientas de apoyo y uso de los hombres. 

https://www.xataka.com/robotica-e-ia/tenemos-gran-problema-agentes-ia-se-equivocan-70-veces?utm_source=ai-news.talent-academy.com&utm_medium=newsletter&utm_campaign=nos-prometieron-que-los-agentes-de-ia-serian-el-futuro-pero-fallan-el-70-de-las-veces&_bhlid=27ab69f7f77d8fb74b7cce96d0af2befbab2abc2

Jensen Huang, el director ejecutivo de Nvidia, ha defendido que integrar inteligencia artificial en creaciones del mundo real, como los robots, es uno de los mercados más atractivos para la tecnología impulsada por los chips de su compañía. 
 

Diez habilidades con altos sueldos y gran proyección   

Trabajos demandados por inteligencia artificial de hoy 

Una reciente investigación revela que los profesionales con competencias en Inteligencia Artificial obtienen una remuneración aproximada del 21 % superior a sus colegas en roles similares sin dichas capacidades, y algunos roles especializados pueden obtener primas salariales de hasta el 58 %. Los ingenieros en aprendizaje automático lideran el ranking de los roles más solicitados, con un incremento interanual del 75% en las propuestas de empleo. 

El proveedor de soluciones tecnológicas del Reino Unido, imagineanything.ai, realizó este estudio que reveló las competencias de inteligencia artificial más demandadas en el año 2025.  

El sector de inteligencia artificial del Reino Unido alcanza una valoración de mercado de 230 mil millones de libras esterlinas (unos 316,121 millones de dólares). El mercado de inteligencia artificial del Reino Unido se consolida como el más grande de Europa y el tercero a nivel global, tras Estados Unidos y China.  
 
En junio pasado, el Dr. Tim Sandle publicó un análisis que indica que los empleos relacionados con la inteligencia artificial crecen 3,6 veces más rápido que el mercado laboral general. Esta es la demanda de talento  

  • Ingenieros de aprendizaje automático: las ofertas de empleo aumentaron un 75 % anual. 
  • Especialistas en IA/ML: crecimiento anual del 36,6 %. 
  • Científicos de datos con experiencia en IA están entre los puestos mejor pagados. Los puestos directivos entre los 100 y los 150 mil dólares. 
  • Ingenieros de visión artificial: crecimiento interanual del 40 % 
  • Especialistas en procesamiento del lenguaje natural: puestos directivos con ingresos de entre 80 y 100 mil dólares. 
  • Ingenieros de IA generativa: la especialidad de más vertiginoso crecimiento, con una tasa de crecimiento anual del 41,53 % hasta 2030. 
  • Especialistas en ética y gobernanza de la IA : crecimiento salarial anual del 15-20 %. 
  • Especialistas en atención médica con inteligencia artificial: cruciales para la creciente tasa de adopción del 12 % en la atención médica. 

https://www.digitaljournal.com/business/top-10-most-in-demand-ai-skills-for-today-and-beyond/article?utm_source=ai-news.talent-academy.com&utm_medium=newsletter&utm_campaign=nos-prometieron-que-los-agentes-de-ia-serian-el-futuro-pero-fallan-el-70-de-las-veces&_bhlid=7b12d701bb7c3e5e47eb9f2852dad91792300f3e

Alrededor de 1.800 millones de personas han usado herramientas de IA, y un tercio de ellas lo hace cada día. Sin embargo, una encuesta de Menlo Ventures indica que casi todos usan los productos sin pagar, según informó Rachyl Jones de Semafor.  

1800 millones de personas usan la inteligencia artificial.  
 
Shawn Carolan, de Menlo, quien invierte en tecnología de consumo, ve una gran oportunidad para el mercado porque hay muchos usuarios de inteligencia artificial. Dijo que hay algunas maneras que pueden usar para convertir a los usuarios. Las funciones de memoria asistida han avanzado. La IA puede acceder a cuentas y realizar transacciones por el usuario, lo que hace que las suscripciones premium resulten más atractivas. Esto es especialmente cierto para quienes, de otro modo, podrían dejar de usar el producto al quedarse sin créditos gratuitos.  

Menlo estima que si los 1.800 millones de usuarios de IA pagaran una suscripción mensual promedio de 20 dólares, el mercado alcanzaría los 432.000 millones de dólares. Actualmente, es de 12.000 millones de dólares, lo que representa solo el 3% del total.  
 
Pero pienso que la mejor oportunidad es: «¿Cómo seguir ofreciendo el servicio gratis para el usuario y hacer dinero de otras formas?», dijo. Las comisiones de afiliación y la publicidad dirigida son la solución. Él dice que esta última «puede ser mucho mejor» con la IA debido al nivel de detalle en las búsquedas de los usuarios y a la información que las empresas tecnológicas tienen sobre ellos. 

https://www.semafor.com/article/06/27/2025/only-3-of-ai-users-pay-for-tools-leaving-huge-untapped-revenue-for-companies-report?utm_medium=flagship+asia&utm_campaign=Semafor+Spotlight&utm_source=newsletterlink

El martes 1 de julio de este año, los senadores de Estados Unidos rechazaron una propuesta que buscaba limitar la capacidad de los estados para supervisar y regular el desarrollo de la inteligencia artificial. Esto representó un golpe inesperado para la industria tecnológica de Silicon Valley.  

Evitan restricciones estatales a la inteligencia artificial en Estados Unidos. 

Lo hemos venido hablando en las últimas publicaciones en este TUESPACIO, la diferencia entre el control y legislación sobre inteligencia artificial entre Estados Unidos y Europa es la capacidad que tienen los Estados y los sectores para regularla.  

Por esta razón, las empresas de tecnología al frente, con Silicon Valley, hicieron un esfuerzo por cambiar la legislación, para ellas, era una prioridad poner sobre la mesa la estandarización y armonización normativa. Argumentaban que un entramado complejo de leyes locales les impedía innovar, desarrollar nuevos productos y competir en el mercado global. Esto era especialmente problemático frente a potencias tecnológicas como China.  

La propuesta que fue abatida 99 a 1, pretendía suspender temporalmente ciertas disposiciones legales. Esto ocurrió durante una extensa y agotadora sesión de votaciones que se prolongó hasta altas horas de la noche. En esta sesión, se discutía el ambicioso proyecto de ley impulsado por los miembros del partido republicano. El senador expresó su convicción de que las normativas estatales podrían ser fundamentales para prevenir la propagación de videos falsificados generados por inteligencia artificial.  

El director ejecutivo de OpenAI, Sam Altman, había respaldado previamente la prohibición de la inteligencia artificial. En una entrevista reciente en el podcast Hard Fork de The New York Times, expresó que todavía considera necesaria cierta regulación en este ámbito. Sin embargo, manifestó que ya no confía en que los legisladores puedan seguir el ritmo de la rápida evolución de la tecnología. Se necesita un marco más «flexible y adaptable», argumentó con firmeza durante la reunión de trabajo. 

https://www.bloomberg.com/news/articles/2025-07-01/senate-removes-tax-bill-provision-limiting-state-ai-regulation?utm_source=semafor

RELATED ARTICLES

Most Popular