Buscar

Filtros

Noticias | La educación en el mundo

Enfrentar los sesgos de la Inteligencia Artificial

Los autores Ken Shelton y Dee Lanier abordan la problemática de la equidad y el sesgo en la inteligencia artificial (IA) resaltando cómo las tecnologías que usamos a menudo reflejan los prejuicios existentes en nuestra sociedad.

El siguiente texto se basa en las reflexiones de Ken Shelton y Dee Lanier en su obra “Las promesas y los peligros de la IA en la educación: la ética y la equidad han entrado en escena”. En este trabajo, los autores abordan la problemática de la equidad y el sesgo en la inteligencia artificial (IA), resaltando cómo las tecnologías que usamos a menudo reflejan los prejuicios existentes en nuestra sociedad.

La tecnología, incluida la inteligencia artificial, no es neutral. Los algoritmos y sistemas que empleamos en educación, como en otros campos, están diseñados por personas y entrenados con datos que, de forma inevitable, llevan consigo los sesgos y prejuicios de quienes los crean. Un ejemplo claro de esto se ve en la clasificación automática de peinados profesionales o no profesionales, donde la IA puede perpetuar estereotipos raciales al asociar ciertos tipos de cabello con características deseables o indeseables en un entorno laboral. Este sesgo se extiende más allá de la simple estética y puede influir en decisiones que afectan la vida de las personas, como la contratación o la promoción en el lugar de trabajo.

Imagen eliminada.

 

En el ámbito educativo, los algoritmos utilizados para evaluar el comportamiento de los estudiantes pueden, sin intención, amplificar los prejuicios existentes. Por ejemplo, estudios han demostrado que los sistemas de monitoreo automatizado en las escuelas pueden sobre vigilar a los estudiantes negros en Estados Unidos, anticipando comportamientos disruptivos con más frecuencia que en sus compañeros blancos. Este sesgo, que tiene sus raíces en percepciones sociales distorsionadas, se convierte en una profecía autocumplida cuando la IA es utilizada para identificar y gestionar el comportamiento estudiantil.

La falta de supervisión y transparencia en el desarrollo de estos sistemas puede conducir a consecuencias negativas significativas. Si no se abordan de manera adecuada, estos sesgos no solo perpetúan las desigualdades existentes, sino que las amplifican. Sin embargo, hay formas de mitigar estos problemas. Entre ellas, se destacan la implementación de marcos de transparencia rigurosos, la inclusión de perspectivas diversas en los equipos de desarrollo y la formación de los educadores para que puedan identificar y cuestionar los sesgos presentes en las herramientas de IA.

Además, es crucial educar a los estudiantes para que desarrollen un pensamiento crítico frente a los resultados generados por la IA. Esto no solo les permite reconocer posibles sesgos, sino también rechazar conclusiones erróneas que podrían afectar su aprendizaje o su percepción de sí mismos.

En un mundo donde la inteligencia artificial jugará un papel cada vez más prominente en la educación, es fundamental abordar de manera proactiva los desafíos éticos y de equidad que surgen. Sólo así podremos garantizar que estas tecnologías no refuercen las desigualdades existentes, sino que contribuyan a un futuro más justo y equitativo para todos.

El contenido de este campo se mantiene privado y no se mostrará públicamente.

HTML Restringido

  • Etiquetas HTML permitidas: <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd> <h2 id> <h3 id> <h4 id> <h5 id> <h6 id> <a href hreflang target data-entity-substitution data-entity-type data-entity-uuid title>
  • Saltos automáticos de líneas y de párrafos.
  • Las direcciones de correos electrónicos y páginas web se convierten en enlaces automáticamente.
  • Blazy:
    • With HTML: [blazy]..[item]IMG[/item]..[/blazy]
    • With self-closing using data entity, data=ENTITY_TYPE:ID:FIELD_NAME:FIELD_IMAGE:
      [blazy data="node:44:field_media" /]. FIELD_IMAGE is optional for video poster, or hires, normally field_media_image.
    • Grid format: STYLE:SMALL-MEDIUM-LARGE, where STYLE is one of column grid flex nativegrid.
      [blazy grid="column:2-3-4" data="node:44:field_media" /]
      [blazy grid="nativegrid:2-3-4"]...[/blazy]
      [blazy grid="nativegrid:2-3-4x4 4x3 2x2 2x4 2x2 2x3 2x3 4x2 4x2"]...[/blazy]
      Only nativegrid can have number or dimension string (4x4...). The rest number only.
    • The attributes grid, data, settings can be combined into one [blazy].
    • To disable, add data-unblazy, e.g.: <img data-unblazy or <iframe data-unblazy. Add width and height for SVG, and non-uploaded images without image styles.
Cancelar