Die Bedeutung der menschlichen Zentrierung in der Verwendung von Künstlicher Intelligenz

In den letzten Monaten hat das leistungsstarke neue Tool ChatGPT von OpenAI, das Fragen beantworten, mit Menschen chatten und Texte generieren kann, die Schlagzeilen beherrscht. Obwohl das Tool fortschrittlich genug ist, um Juraprüfungen zu bestehen, hat es auch merkwürdige Gespräche geführt und Falschinformationen verbreitet. Dies verdeutlicht auch einen wichtigen Bereich, den Unternehmen bei der Verwendung oder dem Einsatz von KI angehen müssen: Wie kann KI auf eine Art und Weise genutzt werden, die den Menschen nicht schadet? "Führung bedeutet, den Fokus absolut auf den Menschen zu legen und rigoros zu sein, bevor man Dinge freigibt, die diese Menschen beeinflussen," sagte ein Dozent und Forscher am MIT Sloan. "Den Mut und die Ethik zu haben, zu sagen, dass wir ein System und eine Beziehung zu unseren Kunden kultivieren möchten, bei der wir nicht einfach nur immer extrahieren, sondern auch Werte teilen - das führt langfristig zu Loyalität." Bei der ersten MIT Thinker-Fest, das vom MIT Initiative on the Digital Economy und Thinkers50 veranstaltet wurde, diskutierten Gosline und Sanjeev Vohra, Senior Managing Director und Global Lead of Applied Intelligence bei Accenture, wie Unternehmen den Menschen in den Mittelpunkt ihrer KI-Bemühungen stellen und warum dies wichtig ist. Menschen werden Unternehmen nicht vertrauen, von denen sie glauben, dass sie Schaden anrichten, sagte Gosline, und sie sind berechtigt, sich sozialen Bewegungen gegen Unternehmen anzuschließen. "Das Risiko dabei betrifft nicht nur den Menschen, es ist auch schlechtes Geschäft," sagte Vohra. 1. Lassen Sie sich nicht von einer "reibungslosen Fieber" verführen. Automatisierung macht es einfach, menschliche Handlungen - oder Reibung - aus einer Vielzahl von Erlebnissen zu entfernen. Zum Beispiel können Kunden einfach ihr Gesicht mit ihren Handys scannen, um einige Einkäufe zu tätigen, anstatt Informationen manuell einzugeben. Aber eine "reibungslose Fieber", oder das Entfernen aller Reibung, ist nicht unbedingt eine gute Sache. Gosline glaubt, dass ein besserer Ansatz darin besteht, "schlechte Reibung" zu entfernen und "gute Reibung" hinzuzufügen. Eine 2022 Accenture-Umfrage ergab, dass nur 6% der Unternehmen, die KI nutzen, verantwortungsvolle KI-Praktiken umgesetzt haben. Zum Beispiel kann ChatGPT mühelos eine riesige Menge an Inhalten generieren, die dann von Suchmaschinen zitiert werden können. "Es kann die Skala der Falschinformationen erhöhen", sagte Gosline. "Es kann auch das menschliche Element im Hinblick auf Unterscheidungsvermögen reduzieren, was eine gute Form von Reibung ist." Und während es reibungslos sein kann, den Zugang zu Daten an Unternehmen oder Algorithmen zu geben, kann es schwierig sein, den Kurs zu ändern. Gosline verglich dies mit einer "digitalen Hummerfalle". "Nur weil ich die Erlaubnis gegeben habe oder dem Köder gefolgt bin, um den Zugang zu einigen meiner Daten zu ermöglichen, bedeutet das nicht, dass Sie jetzt das Recht haben, mit mir zu tun, was Sie wollen", sagte sie. "Also ist es wichtig, vorsichtig zu sein, dass digitale Hummerfallen reibungslos zu betreten sind, aber voller Reibung, um zu verlassen." Und Kunden verlieren das Vertrauen in Unternehmen, wenn sie das Gefühl haben, dass ihre Privatsphäre verletzt wird oder dass sie manipuliert werden, sagte Gosline und zitierte Forschungsergebnisse von Chris Gilliard. Zustimmungsmechanismen oder Möglichkeiten, Benutzer über Datenteilung und Zwecke zu informieren und ihnen die Möglichkeit zu geben, sich dafür zu entscheiden (z.B. Schaltflächen "Ich stimme zu"), "sind die richtigen Mechanismen, um sicherzustellen, dass die Menschen oder Ihre Kunden und Benutzer sich bewusst sind, was sie teilen und zu welchem Zweck sie es teilen," sagte Vohra. 2. Denken Sie über die Ethik und Genauigkeit von generativer KI nach. Generative KI wie ChatGPT oder Dall-E, die Bilder basierend auf Texteingaben erstellt, stellt neue ethische Herausforderungen dar.