Wie KI Institutionen zerstört
Civic institutions—the rule of law, universities, and a free press—are the backbone of democratic life. They are the mechanisms through which complex societies encourage cooperation and stability, while also adapting to changing circumstances. The real superpower of institutions is their ability to evolve and adapt within a hierarchy of authority and a framework for roles and rules while maintaining legitimacy in the knowledge produced and the actions taken. Purpose-driven institutions built around transparency, cooperation, and accountability empower individuals to take intellectual risks and challenge the status quo. This happens through the machinations of interpersonal relationships within those institutions, which broaden perspectives and strengthen shared commitment to civic goals.
Unfortunately, the affordances of AI systems extinguish these institutional features at every turn. In this essay, we make one simple point: AI systems are built to function in ways that degrade and are likely to destroy our crucial civic institutions. The affordances of AI systems have the effect of eroding expertise, short-circuiting decision-making, and isolating people from each other. These systems are anathema to the kind of evolution, transparency, cooperation, and accountability that give vital institutions their purpose and sustainability. In short, current AI systems are a death sentence for civic institutions, and we should treat them as such.
Zivile Institutionen – Rechtsstaatlichkeit, Universitäten und eine freie Presse – sind das Rückgrat des demokratischen Lebens. Sie sind die Mechanismen, durch die komplexe Gesellschaften Zusammenarbeit und Stabilität fördern und sich gleichzeitig an veränderte Umstände anpassen. Die wahre Superkraft von Institutionen liegt in ihrer Fähigkeit, sich innerhalb einer Hierarchie von Autoritäten und einem Rahmenwerk aus Rollen und Regeln weiterzuentwickeln und anzupassen, während sie gleichzeitig die Legitimität des erzeugten Wissens und der ergriffenen Maßnahmen aufrechterhalten. Zweckorientierte Institutionen, die auf Transparenz, Zusammenarbeit und Rechenschaftspflicht aufgebaut sind, befähigen den Einzelnen, intellektuelle Risiken einzugehen und den Status quo in Frage zu stellen. Dies geschieht durch die Mechanismen zwischenmenschlicher Beziehungen innerhalb dieser Institutionen, die den Blickwinkel erweitern und das gemeinsame Engagement für zivile Ziele stärken.
Leider machen die Möglichkeiten von KI-Systemen diese institutionellen Merkmale in jeder Hinsicht zunichte. In diesem Aufsatz bringen wir einen einfachen Punkt zum Ausdruck: KI-Systeme sind so konzipiert, dass sie auf eine Weise funktionieren, die unsere wichtigen zivilen Institutionen schwächt und wahrscheinlich zerstören wird. Die Möglichkeiten von KI-Systemen führen dazu, dass Fachwissen ausgehöhlt, Entscheidungsprozesse kurzgeschlossen und Menschen voneinander isoliert werden. Diese Systeme sind ein Gräuel für die Art von Evolution, Transparenz, Zusammenarbeit und Verantwortlichkeit, die wichtigen Institutionen ihren Zweck und ihre Nachhaltigkeit verleihen. Kurz gesagt: Die aktuellen KI-Systeme sind ein Todesurteil für zivile Institutionen, und wir sollten sie auch so behandeln.