Evaluación ética
Examinar los criterios con los que valoramos sistemas, decisiones y consecuencias.
¿Qué significa evaluar bien una tecnología que cambia mientras la observamos?
Ética · Cognición · Criterio
Inteligencia artificial,cognición y pensamiento crítico.
Un punto de partida para explorar cómo pensamos con la inteligencia artificial: qué entendemos por razonamiento, qué debemos contrastar y qué responsabilidad no podemos delegar.
Explorar líneas de estudioLíneas de estudio
Preguntas para una tecnología que también nos define.
Tres ámbitos conectados para estudiar no solo lo que los sistemas de IA hacen, sino qué afirmaciones justificamos sobre ellos y qué responsabilidades asumimos al utilizarlos.
Evidencia cognitiva
Distinguir entre conducta observable, capacidad funcional y atribuciones de pensamiento.
¿Qué evidencia permitiría hablar de razonamiento sin confundirlo con su apariencia?
Gobierno de los datos
Examinar quién recopila información, para qué fines, durante cuánto tiempo y bajo qué límites.
¿Cómo cambia el poder cuando los datos personales dejan de estar bajo el control de las personas?
Una disciplina de análisis
De la pregunta a sus implicaciones.
Un marco de trabajo abierto para ordenar la investigación, hacer visibles los supuestos y separar las afirmaciones de la evidencia que las sostiene.
Preguntar
Formular el problema y delimitar exactamente qué se afirma.
Contrastar
Reunir evidencia y buscar explicaciones alternativas.
Evaluar
Examinar valores, riesgos, responsabilidades y límites.
Traducir
Convertir el análisis en implicaciones comprensibles y útiles.
Gobierno de los datos
Marcos de análisis, no promesas de producción.
Minimización
Recoger únicamente los datos necesarios para una finalidad definida.
Conservación limitada
Establecer desde el inicio cuánto tiempo se guardan los datos y cuándo se eliminan.
No comercialización
No tratar los datos personales como mercancía disponible para comprarse y venderse.
Marco inspirado en las tres medidas que Carissa Véliz propone para gobernar la privacidad: minimización de datos, conservación limitada y prohibición de su comercio.
Bibliografía de orientación
Una genealogía para pensar y cuestionar la IA.
Referencias que ayudan a distinguir inteligencia, racionalidad, comprensión y juicio. Este mapa orienta la línea de estudio; no presenta estas obras como producción propia.
Punto de partida
- 1950
Alan Turing · Computing Machinery and Intelligence
Reformula la pregunta por el pensamiento de las máquinas mediante el juego de imitación.
Consultar fuente - 1955–56
John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon · Dartmouth Summer Research Project on Artificial Intelligence
Formula el término inteligencia artificial y la conjetura que funda el campo.
Consultar fuente
Pensamiento crítico
- 1962
Robert H. Ennis · A Concept of Critical Thinking
Sitúa la evaluación de afirmaciones y la formulación precisa de preguntas en el centro del pensamiento crítico.
Consultar fuente - 1991–2003
Matthew Lipman · Thinking in Education
Relaciona pensamiento crítico, criterios, diálogo y formación del juicio.
Consultar fuente - 2019
Keith E. Stanovich, Maggie E. Toplak y Richard F. West · Intelligence and Rationality
Distingue la capacidad intelectual del pensamiento racional y su evaluación específica.
Consultar fuente - 2019
Deanna Kuhn · Critical Thinking as Discourse
Entiende el pensamiento crítico como una práctica dialógica de argumentación y contraste.
Consultar fuente - 2021
Steven Pinker · Rationality
Reúne herramientas de lógica, probabilidad, inferencia causal y decisión para examinar cómo razonamos.
Consultar fuente
Crítica de la IA
- 1972–92
Hubert L. Dreyfus · What Computers Still Can’t Do
Cuestiona que la inteligencia humana pueda reducirse a reglas formales sin cuerpo, contexto ni experiencia.
Consultar fuente - 1976
Joseph Weizenbaum · Computer Power and Human Reason
Distingue la capacidad de cálculo de la responsabilidad humana de juzgar.
Consultar fuente - 1980
John R. Searle · Minds, Brains, and Programs
Cuestiona que manipular símbolos correctamente sea suficiente para comprender.
Consultar fuente - 2016
Shannon Vallor · Technology and the Virtues
Propone cultivar sabiduría tecnomoral y juicio práctico ante las tecnologías emergentes.
Consultar fuente - 2021
Emily M. Bender, Timnit Gebru y coautoras · On the Dangers of Stochastic Parrots
Advierte contra atribuir comprensión a los modelos lingüísticos a partir de la fluidez de sus resultados.
Consultar fuente
Perfil
Anabel Alcaide Acevedo
Desarrolla una línea personal de estudio en torno a la ética de la inteligencia artificial. Su interés se concentra en cómo distinguimos evidencia de apariencia cuando atribuimos razonamiento a los sistemas, y en las responsabilidades que nacen de su uso en la toma de decisiones.
Esta primera versión presenta el territorio de investigación. La biografía académica y los trabajos documentados se incorporarán en una fase posterior.
Contacto
Continuar la conversación.
Un canal directo para propuestas de colaboración, intercambio académico y conversación profesional.
Escribir por correo Dirección protegida mediante reenvío privado.