“it’s not just AIs that are imperfect. Humans are wildly imperfect, and one thing they turn out to be very bad at is supervising AIs”
“Humans in the loop experience a diminished sense of control, responsibility, and moral agency. That means that they feel less able to override an algorithm — and they feel less morally culpable when they sit by and let the algorithm do its thing.”
Totalmente de acuerdo, y quizás lo bueno es que en muchas aplicaciones IA la verificación no es necesaria ya que no hay respuestas incorrectas. Por ejemplo, al usar GenAI para contenidos de marketing.
El problema es cuando se usa GenAI para problemas que realmente se solucionan mejor con otras técnicas de análisis de datos. Por ejemplo, si usas copilot para Excel es fantástico para crear un gráfico pero como le pidas que haga cálculos y fórmulas en memoria se hace un lio y empieza a inventarse cifras.
Verificar es algo que hacemos con humanos. Si tienes alguien en tu equipo haciendo algo lo tienes que verificar (de vez en cuando) para comprobar que funciona y que puedes delegar con confianza.
Verificar es ineficiente a corto plazo pero eficiente a largo ya que permite escalar sistemas. Yo soy tecno optimista de que encontraremos la solución a este problema actual.
Prompt.... siempre, aunque ahora más, las preguntas son lo más importante. Para hacer buenas preguntas la experiencia debe ser tan importante como la esperanza, sin olvida la ética.
Muy bueno el newsletter de esta semana, un gran análisis del libro.
Sobre el tema del “human in the loop” creo que te gustará este ensayo de Coro Doctorow:
https://pluralistic.net/2024/10/30/a-neck-in-a-noose/#is-also-a-human-in-the-loop
“it’s not just AIs that are imperfect. Humans are wildly imperfect, and one thing they turn out to be very bad at is supervising AIs”
“Humans in the loop experience a diminished sense of control, responsibility, and moral agency. That means that they feel less able to override an algorithm — and they feel less morally culpable when they sit by and let the algorithm do its thing.”
Totalmente de acuerdo, y quizás lo bueno es que en muchas aplicaciones IA la verificación no es necesaria ya que no hay respuestas incorrectas. Por ejemplo, al usar GenAI para contenidos de marketing.
El problema es cuando se usa GenAI para problemas que realmente se solucionan mejor con otras técnicas de análisis de datos. Por ejemplo, si usas copilot para Excel es fantástico para crear un gráfico pero como le pidas que haga cálculos y fórmulas en memoria se hace un lio y empieza a inventarse cifras.
Verificar es algo que hacemos con humanos. Si tienes alguien en tu equipo haciendo algo lo tienes que verificar (de vez en cuando) para comprobar que funciona y que puedes delegar con confianza.
Verificar es ineficiente a corto plazo pero eficiente a largo ya que permite escalar sistemas. Yo soy tecno optimista de que encontraremos la solución a este problema actual.
muy bueno, lo has escrito y luego repasado con ChatGPT? si lo has hecho, bien hecho , si no lo has hecho , también está bien hecho
Un post extraordinario. Muchas gracias
Prompt.... siempre, aunque ahora más, las preguntas son lo más importante. Para hacer buenas preguntas la experiencia debe ser tan importante como la esperanza, sin olvida la ética.