Un estudio del Instituto VRAIN de la Universitat Politècnica de València, junto con la Universidad de Cambridge, ha revelado que, a pesar de los avances en inteligencia artificial, la fiabilidad de los grandes modelos de lenguaje ha disminuido. Se observa que estos modelos, como GPT-4, fallan en tareas simples a pesar de ser capaces de resolver problemas complejos, lo que crea una discordancia entre las expectativas humanas y su rendimiento real. El estudio destaca que no existe una “zona segura” donde estos modelos operen de manera confiable y que son más propensos a dar respuestas incorrectas en lugar de abstenerse en situaciones de incertidumbre. Además, la supervisión humana no es efectiva para compensar estos problemas, ya que los usuarios tienden a confiar demasiado en los modelos. Los hallazgos indican la necesidad de un cambio en el diseño y desarrollo de la inteligencia artificial, especialmente para aplicaciones de alto riesgo, enfatizando la importancia de abordar las limitaciones actuales de estos modelos.
- Últimos
- Trending
