20 Gefahren von Chat GPT, von denen niemand spricht

ChatGPT macht Furore und wird euphorisch als Siegeszug der KI gefeiert. Zweifellos hat dieser Chatbot der sozusagen neuen Generation viele Stärken und kann viel Gutes bewirken. Nur einmal mehr wird, wie schon bei der Digitalisierung, unkritisch gehypt. Welches die zahlreichen Gefahren und Risiken sind, verrät dieser Beitrag.

Viele dieser Fragen betreffen direkt und indirekt auch das Human Resource Management. Man denke nur an Selektionsverfahren, das Recruiting, Stellenbeschreibungen, Arbeitszeugnisse, Kündigungen, People Analytics, Job-Interviews, Mitarbeiter- und Analysedaten und viele Bereiche mehr.

Die 20 Gefahren von ChatGPT

1. Warum stellt niemand die Frage nach der Berechtigung, mit Daten und Wissen anderer zu handeln und diese zu verwerten (Urheberrecht)?
2. Was tut man dagegen, bei wichtigen Fragen und Problemen nicht mehr zu wissen, ob Informationen nun von Menschen oder von Chat GPT kommen?
3. Das individuelle Wissen verliert an Wert, es wird kollektiviert
4. Kann es nicht auch sein, dass vor allem junge Menschen das Lernen verlernen werden?
5. Gefährdet ist auch der Journalismus, der versucht sein wird, zu so generierten Texten zu greifen
6. Was tut der Staat und die Techbranche zur Einschränkung der Anwendungsgebiete?
7. Wer haftet für falsche oder irreführende Antworten und Informationen?
8. Warum fordert niemand die Transparenz, woher die Daten kommen und wie sie aufbereitet werden?
9. Es besteht die Gefahr, die Urteilsfähigkeit zu verlieren, indem man sich nur noch auf Antworten von Chat GPT verlässt.
10. Chat GPT entpuppt sich schon jetzt bei gewissen Themen als wissenschaftliche Fake-News-Schleuder
11. Chat GPT könnte auch als Waffe missbraucht werden, um das Vertrauen in Rechtsstaatlichkeit und letztlich in die Demokratie zu zerstören.
12. Eine solches Instrument privaten Unternehmen zu überlassen, ist fahrlässig und unverantwortlich, vor allem wenn zweifelhafte Personen wie Musk involviert sind.
13. ChatGPT verfügt über manchmal eminent wichtige Fähigkeiten wie Empathie, soziale Verantwortung, differenziertes Denkvermögen, Berücksichtigung situativer Gegebenheiten und vieles mehr nicht.
14. (Zu) Hart geht eine Datenwissenschaftlerin mit Chat GPT ins Gericht: Sie sei nichts anderes als «automatisch generierter Blödsinn», der manchmal richtig und manchmal falsch sei.
15. Der jetzt schon immer mehr abnehmende zwischenmenschliche Dialog könnte weiter reduziert werden
16. Chat GPT steht vermutlich erst am Anfang seiner Entwicklung. Was geschieht, wenn der Mensch die Kontrolle verliert und Entscheidungen nicht mehr nachvollzogen werden können?
17. Menschliche Intelligenz kann nur noch eingeschränkt beurteilt und auch vorgetäuscht werden
18. Es wurde bereits nachgewiesen, dass Chat GPT Quellen frei erfindet, die gar nicht existieren
19. Vor allem junge Menschen könnten immer mehr die Fähigkeit verlieren, selbstständig zu denken und Probleme zu lösen.
20. Die Hacker- und Manipulations-Gefahren sind ebenfalls nicht zu unterschätzen.

Die Grenzen von ChatGPT

Man muss auch die Leistungsfähigkeit und Intelligenzleistung von ChatGPT relativieren: ChatGPT erbringt keine eigene kreative Intelligenz, sondern – etwas böse ausgedrückt – wiederkäut bestehendes Internet-Wissen und bringt es lediglich in eine dialogfähige und komprimierte Form. Chat GPT ist sozusagen eine Imitationsmaschine – oder noch etwas böser – ein stochastischer Papagei – , die mit bereits vorhandenen und von Menschen erarbeiteten Daten gefüttert wird – dessen sollte man sich bewusst sein. Eine klare Schwäche von ChatGPT ist auch, dass er nicht zwischen Fakten, Fake und Fiktion unterscheiden kann.

KI ist eher maschinelles Lernen

Was man sich auch bewusst sein sollte: ChatGPT ist abhängig von der Qualität und Anzahl der Quellen, auf die es zugreift. Sind in diesen Inhalte nur spärlich vorhanden, fallen auch die Resultate ungenügend oder zuweilen falsch aus. Streng genommen ist schon der Begriff Intelligenz in der KI nicht korrekt und eher ein Marketingterminus, es handelt sich viel eher um maschinelles Lernen.

ChatGPT reproduziert vorhandene Texte

Was im Internet am häufigsten thematisiert wird und in als vertrauenswürdig geltenden Quellen enthalten ist (Wikipedia), ist für den Chatbot nur deshalb oft auch das Korrekte und Richtige, worauf man sich verlassen kann. Stellt man dem Textgenerator – als den man ChatGPT ja auch bezeichnen kann oder soll – anspruchsvolle Fachfragen oder wünscht sich kreative Lösungen, stösst er schnell an seine Grenzen und bleibt doch recht oberflächlich und plattitüdenhaft – und kann sogar ins Halluzinieren verfallen. Solche Antworten sollte man also immer überprüfen – umso wichtiger sie sind, desto genauer. Die Antworten kommen oft auch sprachlich mechanisch daher, da ChatGPT einem typischen programmierten Antwort-Muster folgt.

Ein Beispiel für den Einsatz von KI in der Bewerberauswahl. Da ChatGPT nicht nur mit vorhandenen, sondern teilweise auch veralteten Daten arbeitet, werden Männern Frauen aufgrund historischer Daten bevorzugt, weil diese in der Vergangenheit häufiger eingestellt wurden und sich mehr von ihnen bewarben.

Expertenwissen und Kreatives liefert ChatGPT unbefriedigend

Sind Fragen anspruchsvoll oder betreffen komplexe Themen, stösst man ebenso schnell an die Grenzen von ChatGPT. Er ist daher auch nicht fähig, „out of the box“ zu denken und zu argumentieren, sondern reproduziert vorhandene Texte in der Form statistischer Wahrscheinlichkeiten. Das ist so gesehen auch keine Intelligenz, auch wenn sie als künstlich gesehen wird. Problematisch ist natürlich auch, dass einmal mehr Techkonzerne dominieren, welche sich jeder demokratischen und politischen Kontrolle und Verantwortlichkeit entziehen. Amüsant und nur am Rande von Bedeutung: Sagt man ihm, dass man seine Antworten anzweifelt, kann er zickig reagieren und seine Frager sogar beleidigen :-).

Soll man KI wirklich privaten Techkonzernen überlassen?

Dies ist ein weiterer Aspekt, der unbedingt berücksichtigt werden sollte. Schon der Missbrauch bei sozialen Medien mit Fakenews und Manipulationen zeigte, wie schnell auch demokratische Werte gefährdet werden können. Noch stärker gilt dies für eine, wenn sie ausser Kontrolle oder in die Hände diktatorischer Regimes gerät. Darüber hinaus sind Techkonzerne weder in der Lage noch legitimiert, über dermassen mächtige Tools mit weit reichenden gesellschaftlichen Auswirkungen zu entscheiden. Mit anderen Worten: KI muss reglementiert werden. Mit dem Artificial Intelligence Act arbeitet die EU bereits daran und hat erkannt, dass man diese nicht den USA überlassen darf.

Die positiven Aspekte von Chat GPT

Auch wenn man ChatGPT mit kritischer Distanz und notwendiger Skepsis beurteilen und nichth kritiklos dem Hype verfallen sollte – man darf die erstaunlichen Fähigkeiten und den gewaltigen Entwicklungssprung dieser Chatbot-Generation nicht unterschätzen. Auch in den üblichen Kulturpessimismus zu geraten, der nur Gefahren und Risiken, aber die Chancen und das Potenzial nicht sieht, ist der falsche Weg. Überzeugend und nutzenstiftend sind beispielsweise:

• Das unglaubliche Tempo, mit dem ChatGPT Antworten liefert
• Die erstaunliche Dialogfähigkeit von Antworten und Chats
• Die sprachlich fast immer fehlerfreie Kommunikation
• Der Grad der Korrektheit und Strukturierung der Antworten
• Je nach Fragestellung die Differenzierungsfähigkeit und Objektivität

Es wird am Schluss vermutlich so sein, dass wir diese Entwicklung nicht verbieten und ablehnen sollten, sondern lernen müssen, damit umzugehen und den Chatbot als Werkzeug zu sehen, das uns eher unterstützt als bedroht. Nur dieses Lernen wird immer anspruchsvoller und spaltet unsere Gesellschaft wohl noch mehr eine Zweiklassengesellschaft, als dies jetzt schon der Fall ist: Eine Minderheit, die weiss, wie damit umzugehen und ChatGPT zu hinterfragen versteht und eine Mehrheit, die es verlernt zu lernen und das Denken an den Chatbot abdelegiert.

Übrigens: Dieser Text wurde ohne jegliche Assistenz des Chatbots verfasst :-). Wir hoffen, Sie glauben uns das und erkennen anzunehmende Unterschiede.