AI-Based Self-Tracking of the Mind: Philosophical-Ethical Implications

Zusammenfassung Ziel Zunehmend werden KI-basierte Anwendungen entwickelt, die Nutzende dabei unterstutzen sollen, ihre Emotionen, uberzeugungen und Verhaltensmuster digital zu erfassen, zu verwalten und zu verandern. Solche Formen der Selbstvermessung im Bereich der menschlichen Psyche konnen vielfaltige medizinische Vorteile in Diagnostik, Pravention und Therapie haben. Dieser Beitrag geht der Frage nach, welche philosophisch-ethischen Herausforderungen gegenuber diesen Vorteilen abgewogen werden sollten. Methode Zunachst werden einige KI-basierte Anwendungen zur Selbstvermessung psychischer Eigenschaften und Prozesse skizziert. Im Anschluss werden relevante philosophisch-ethische Implikationen aufgezeigt. Ergebnisse Folgende Aspekte erweisen sich als normativ relevant: Verbesserung versus Verminderung von Selbstbestimmungsfahigkeit; Verbesserung der Selbstkenntnis versus Entfremdung; positive versus negative Aspekte eigenverantwortlicher Gesundheitsfursorge; epistemische Herausforderungen von KI-Anwendungen; Schwierigkeiten von konzeptionellen und normativen Festlegungen in den Anwendungen. Abstract Objective AI-based applications are increasingly developed to support users to digitally record, manage and change their emotions, beliefs and behavior patterns. Such forms of self-tracking in the mental sphere are accompanied by a variety of medical benefits in diagnostics, prevention, and therapy. This article pursues the question of which philosophical-ethical implications must be taken into account when dealing with these advantages. Methods First, some AI-based applications for self-tracking of mental characteristics and processes are outlined. Subsequently, relevant philosophical-ethical implications are presented. Results The following aspects prove to be normatively relevant: improvement versus reduction of self-determination; improvement of self-knowledge versus alienation; positive versus negative aspects of self-responsible health care; epistemic challenges of AI applications; difficulties of conceptual and normative definitions in the applications.