En What Self-Driving Cars Tell Us About AI Risks un recordatorio de lo que es la inteligencia artificial hoy en día.

No voy a entrar en los detalles de la parte de los vehículos, porque me parece un poco negativo y, siendo ciertos los casos que presenta, me interesa más la parte de comprender la tecnología, lo que podemos esperar de ella y el esfuerzo (otra vez) que debemos hacer para tratar con ella.

Primero, parece que no comprendemos muy bien (el público en general, se refiere; y podemos confirmarlo con algunas cosas que se escuchan por ahí de la mano de tertulianos y otros opinadores).
La inteligencia artificial que conduce los vehículos se basa en principios similares a los de ChatGPT y los modelos de lenguaje, esto es utilizan razonamiento estadístico para proponer el siguiente movimiento, con un sesgo muy importante hacia las acciones más recientes.

Both kinds of AI use statistical reasoning to guess what the next word or phrase or steering input should be, heavily weighting the calculation with recently used words or actions.

Por supuesto, no 'comprenden' la situación, el contexto, u otros factores que no están presentes y que, tal vez, un conductor sí consideraría.

Neither the AI in LLMs nor the one in autonomous cars can “understand” the situation, the context, or any unobserved factors that a person would consider in a similar situation.

Las conclusiones de la autora serían:

- Los errores humanos en el manejo del venículo son susstituidas por errores de programación.

1. Human errors in operation get replaced by human errors in coding

Con el agravante que todos sabemos que los errores de programación son extremadamente fáciles de cometer.

- Los fallos de la inteligencia artificial son difíciles de predecir.

2. AI failure modes are hard to predict

- Las estimaciones probabilistas no hacen buenas predicciones bajo incertidumbre

3. Probabilistic estimates do not approximate judgment under uncertainty

- El mantenimiento de las inteligencias artificiales es tan importante como su creación

4. Maintaining AI is just as important as creating AI

De esto hablamos el otro día en El trabajo de la Inteligencia Artificial.

- La inteligencia artificial tiene implicaciones a nivel sistémico que no pueden ignorarse.

5. AI has system-level implications that can’t be ignored

Me parece un poco pesimista todo el artículo, pero vale la pena recordar estas cosas porque creo que estamos en una fase de mitificación de la cosa que hace que creamos que todo es posible y, lo peor, que todo funcionará bien.

Me sumo, por lo tanto, a la última frase, que dice: necesitamos menos histeria y más educación para que la gente comprenda las promesas, pero también la realidad técnica de la IA.

We need less hysteria and more education so that people can understand the promises but also the realities of AI.

Y, en ese sentido, soy pesimista si miramos a nuestra historia reciente sobre la relación que mantenemos con la tecnología.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.