Teaching Ethics in Wearable Technology Design through Human-AI Co-Creation

 Enseñar ética en el diseño de tecnología vestible mediante la co-creación entre humanos e IA

About this session

This paper presents findings from a multi-week classroom study on integrating ethics into wearable technology design education using a framework for responsible human-AI collaboration. Positioned at the intersection of design practice, prompt engineering, and ethics, the study provided 14 undergraduate students with a structured opportunity to experiment with generative AI tools while critically examining their practical and ethical implications in student-selected wearable technology design contexts. Following a studio-based format, students generated and iteratively refined design variations, documented prompt sequences, and evaluated AI outputs using a framework centered on susceptibility to stereotypes, representational distortion, proximity to protected intellectual property, environmental and health burdens, and degree of control in human-AI co-creation. The findings support that prompt engineering is not merely a technical exercise, but a site of critical intervention through which designers can shape outputs toward more inclusive, sustainable, and ethically grounded outcomes. By foregrounding downstream design decisions and the shifting balance between designer intent and model autonomy, the study supported students in developing critical AI literacy and a deeper understanding of responsible co-creation. The paper argues that wearable technology design education offers a productive site for examining how AI can enhance, rather than override, human judgment, domain expertise, and creative resilience.
 

Este trabajo presenta hallazgos de un estudio de aula de varias semanas sobre la integración de la ética en la educación del diseño de tecnología vestible, utilizando un marco de colaboración responsable entre humanos e IA. Situado en la intersección entre la práctica del diseño, la ingeniería de prompts y la ética, el estudio brindó a 14 estudiantes de pregrado una oportunidad estructurada para experimentar con herramientas de IA generativa mientras examinaban críticamente sus implicaciones prácticas y éticas en contextos de diseño de tecnología vestible elegidos por los propios estudiantes. Siguiendo un formato tipo taller, los estudiantes generaron y refinaron iterativamente variaciones de diseño, documentaron secuencias de prompts y evaluaron los resultados de la IA utilizando un marco centrado en la susceptibilidad a los estereotipos, la distorsión representacional, la proximidad a propiedad intelectual protegida, las cargas ambientales y de salud, y el grado de control en la co-creación humano-IA. Los hallazgos respaldan que la ingeniería de prompts no es meramente un ejercicio técnico, sino un espacio de intervención crítica a través del cual los diseñadores pueden orientar los resultados hacia desenlaces más inclusivos, sostenibles y éticamente fundamentados. Al poner en primer plano las decisiones de diseño posteriores y el equilibrio cambiante entre la intención del diseñador y la autonomía del modelo, el estudio ayudó a los estudiantes a desarrollar una alfabetización crítica en IA y una comprensión más profunda de la co-creación responsable. El trabajo sostiene que la educación en diseño de tecnología vestible ofrece un espacio productivo para examinar cómo la IA puede potenciar, en lugar de sustituir, el juicio humano, la experticia disciplinar y la resiliencia creativa.

Session type: Paper (Ponencia académica)

Presenter

 Bolor Amgalan, Associate Teaching Professor, Northeastern University

Time listed is Dominican Republic time.