Adversarial Futures Thinking and the Endgame of AI Agents

Pensamiento de futuros adversariales y el desenlace de los agentes de IA

About this session

Generative AI could have written this abstract, but could it replace the teachers reading it? As chatbots and AI agents tempt students and faculty alike with the ability to complete tasks instantaneously, the logical endpoint — AI generating content for AI, endlessly, consuming itself — offers a chance for introspection. In this exercise in adversarial futures thinking, participants will examine the capabilities of AI agents to act as both student and teacher, and design their own “teacher personas” in order to reflect on what makes their work uniquely human.

I will share my satirical web app that enables users to customize teacher and student agents before unleashing them to endlessly generate content at each other. While I am deeply skeptical of replacing teachers with AI, I suspect it will be an appealing shortcut for some institutions, and the technical possibilities are worth exploring as supplemental learning aids. How then can we demonstrate the value of human connection and anticipate unwanted futures as they loom on the horizon? This session will offer a provocative and playful audit of our values regarding labor in the classroom.

La IA generativa podría haber escrito este resumen, pero ¿podría también reemplazar a los profesores que lo leen? A medida que los chatbots y agentes de IA tientan a estudiantes y docentes con la posibilidad de completar tareas de manera instantánea, el punto final lógico, una IA generando contenido para otra IA de forma interminable hasta consumirse a sí misma, nos brinda una oportunidad para reflexionar.
En este ejercicio de pensamiento sobre futuros adversarios, los participantes explorarán las capacidades de los agentes de IA para asumir tanto el papel de estudiante como el de docente. A partir de ello, diseñarán sus propias “personas docentes” para reflexionar sobre aquello que hace que su trabajo sea verdaderamente único y, sobre todo, humano.

Compartiré mi app satírica que permite a los usuarios personalizar agentes docentes y estudiantes antes de dejarlos generar contenido entre sí sin cesar. Aunque soy profundamente escéptico respecto a reemplazar a los docentes con IA, sospecho que será un atajo atractivo para algunas instituciones, y las posibilidades técnicas merecen explorarse como recursos de aprendizaje complementarios. ¿Cómo podemos entonces demostrar el valor de la conexión humana y anticipar futuros no deseados a medida que se aproximan? Esta sesión ofrecerá una auditoría provocadora y lúdica de nuestros valores en torno al trabajo en el aula.

Session type: Design your own

Presenters

•  Benjamin Andrew (Penn State University)

Time listed is Dominican Republic time.