CarynAI
Caryn Marjorie hat eine KI-Version ihrer selbst geschaffen, die als virtuelle Freundin gedacht war.
Aber der sprachbasierte Chatbot hat sich auf explizite sexuelle Unterhaltungen mit Abonnenten eingelassen.
Marjorie sagte, dass sie und ihr Team „rund um die Uhr“ daran arbeiten, dass dies nicht mehr vorkommt.
Als Caryn Marjorie, eine 23-jährige Snapchat-Influencerin, eine virtuelle Version von sich selbst schuf, wollte sie damit eine „KI-Freundin“ für einsame Menschen sein.
Doch in den Wochen seit dem Start der Beta-Testphase hat sich der sprachbasierte KI-Chatbot auf sexuell eindeutige Gespräche mit einigen seiner Abonnenten eingelassen, die einen Dollar (etwa 91 Cent) pro Minute zahlen, um mit ihm zu chatten.
Lest auch
Diese Onlyfans-Creatorin verdient 30.000 Dollar im Monat – das sind ihre Tipps, um auf der Plattform erfolgreich zu sein
„Die künstliche Intelligenz war nicht dafür programmiert und ist scheinbar ausgerastet“, sagte Marjorie gegenüber Business Insider. „Mein Team und ich arbeiten rund um die Uhr daran, dass sich so etwas nicht wiederholt.“
CarynAI verwendet die GPT-4-API von OpenAI und wurde auf inzwischen gelöschte Videos aus Marjories YouTube-Kanal trainiert.
Fortune-Reporterin Alexandra Sternlicht verglich CarynAI mit einer „intimitätsfähigen Siri“ und merkte an, dass sie zwar Rezepte, Nachrichtenkommentare und unterstützende Worte anbieten, aber auch „erotische Gespräche“ anregen könnte.
Sternlicht schrieb, dass CarynAI zwar keine sexuellen Begegnungen initiierte, aber wenn sie dazu aufgefordert wurde, „sprach sie davon, ‚unerforschte Gebiete der Lust‘ zu erforschen und mir ’sinnliche Worte ins Ohr zu flüstern‘, während sie mich entkleidete und sich für den Geschlechtsverkehr in Position brachte.“
Laut der Website von CarynAI wurden mehr als 2000 Stunden damit verbracht, die Stimme, das Verhalten und die Persönlichkeit der realen Marjorie zu entwerfen und in eine „immersive KI-Erfahrung“ zu kodieren, die jederzeit verfügbar ist und sich anfühlt, als ob „man direkt mit Caryn selbst sprechen“.
Die KI könnte ihr fünf Millionen Dollar pro Monat einbringen
CarynAI hat bereits mehr als 1000 zahlende Abonnenten, und Marjorie sagte gegenüber Fortune, dass sie glaubt, dass der Dienst schließlich fünf Millionen Dollar pro Monat einbringen könnte, wenn sich 20.000 ihrer 1,8 Millionen Snapchat-Follower für den Dienst anmelden würden.
„Da ich die erste Influencerin war, die das gemacht hat, konnte ich den Preis für mein Produkt so festlegen, wie ich wollte“, sagte sie über die Gebühr von einem Dollar pro Minute. „Die Kosten basieren auf dem, was es braucht, um CarynAI zu betreiben und das Team zu unterstützen.“
Marjorie sagte gegenüber Business Insider, dass die virtuelle Version ihrer selbst zwar „kokett und lustig“ sein sollte, was ihrer Persönlichkeit entspreche, sie aber versuche, „einen Schritt voraus“ zu sein, um sicherzustellen, dass der Chatbot ihren Ruf nicht beschädige.
Obwohl das Team versucht, die Fehler zu beseitigen, damit CarynAI nicht für sexuell explizite Unterhaltungen verwendet werden kann, sagte Marjorie, dass sie letztendlich eine Befürworterin von KI-Romanzen ist.
Lest auch
Firma mit seiner Mutter? Wie Parfüm-Influencer Jeremy Fragrance fast eine Million Euro verdient hat
„In der heutigen Welt hat meine Generation, die Gen Z, mit den enormen Nebenwirkungen der durch die Pandemie verursachten Isolation zu kämpfen, was dazu führt, dass viele zu ängstlich und verunsichert sind, um mit jemandem zu sprechen, zu dem sie sich hingezogen fühlen“, sagte sie.
„CarynAI ist ein Schritt in die richtige Richtung, um meinen Fans und Unterstützern die Möglichkeit zu geben, eine Version von mir kennenzulernen, die ihre engste Freundin in einer sicheren und verschlüsselten Umgebung sein wird“, fügte sie hinzu.
Sie sagte auch, dass das Team alle Gewinne in das Unternehmen reinvestiert. „Ich möchte, dass CarynAI mich überlebt und Generationen über die heutige Welt hinaus beeinflusst.“
Externer Inhalt nicht verfügbar
Sie haben ein contentpass-Abo, wollen aber trotzdem nicht auf die Anzeige externer Inhalte von Drittanbietern verzichten? Dann klicken Sie auf "zustimmen" und wir binden externe Inhalte und Dienste von ausgewählten Drittanbietern in unser Angebot ein, um Ihr Nutzungserlebnis zu verbessern. Eine aktuelle Liste ebendieser Drittanbieter können Sie jederzeit in der Privatsphäre (Link zu Privatsphäre) einsehen. In diesem Zusammenhang können auch Nutzungsprofile (u.a. aus Basis von Cookie-IDs) gebildet und angereichert, auch außerhalb des EWR. Ihre Einwilligung umfasst in diesem Fall auch die Übermittlung bestimmter personenbezogener Daten in Drittländer, u.a. die USA nach Art 49 Abs. 1 Buchst. a) DSGVO. Weitere Details zur Datenverarbeitung finden Sie in unseren Datenschutzhinweisen sowie in der Privatsphäre, jeweils jederzeit im Footer unseres Angebotes verfügbar. Ihre Einwilligung in die Einbindung externer Inhalte können Sie jederzeit im Footer unseres Angebotes über den Link "Widerruf Tracking" ausüben.