KI-Richtlinie

Artikel 1 — Gegenstand

Diese Richtlinie soll die Nutzer der Plattform Hello Mira über den Einsatz von Systemen der künstlichen Intelligenz (KI) informieren, in Übereinstimmung mit den Transparenzpflichten gemäß der Verordnung (EU) 2024/1689 über künstliche Intelligenz (AI Act) und der Verordnung (EU) 2016/679 (DSGVO).

Hello Mira verpflichtet sich zu einem transparenten, verantwortungsvollen und kontrollierten Einsatz von künstlicher Intelligenz im Dienste seiner Nutzer.

Artikel 2 — Rolle von Hello Mira im Sinne des AI Act

Hello Mira handelt hauptsächlich in der Eigenschaft als «Deployer» (Betreiber) im Sinne des AI Act: Hello Mira nutzt KI-Systeme, die von Dritten (Anbietern von Sprachmodellen) entwickelt wurden, im Rahmen seiner Dienste.

Hello Mira entwickelt auch eigene souveräne KI-Modelle, die auf seiner eigenen Infrastruktur (OVHcloud, EU) gehostet werden. In dem Maße, wie diese Modelle einen wachsenden Anteil der Funktionalitäten übernehmen, könnte sich die Rolle von Hello Mira zur eines «Providers» (Anbieters) im Sinne des AI Act weiterentwickeln, was zusätzliche Verpflichtungen zur technischen Dokumentation und zum Risikomanagement nach sich zieht.

Diese Richtlinie wird entsprechend aktualisiert.

Artikel 3 — Eingesetzte KI-Systeme

3.1 Mira Brain — Proprietäre KI-Engine

Technische Beschaffenheit: RAG-System (Retrieval-Augmented Generation) / CAG-System (Cache-Augmented Generation), gespeist von Mira Knowledge, der proprietären Wissensbasis von Hello Mira.

Funktionsweise: Wenn der Nutzer eine Frage stellt, sucht das System in Mira Knowledge nach relevanten Informationen (verifizierte Felddaten, bereitgestellt von Amigos, Mentors und der Community) und nutzt dann ein Sprachmodell, um eine kontextualisierte und personalisierte Antwort zu generieren.

Zugrundeliegende Modelle: Hello Mira stützt sich auf mehrere Anbieter von Sprachmodellen (Mistral AI, Google Gemini, Anthropic Claude, OpenAI GPT) und entwickelt schrittweise eigene souveräne Modelle, die in der Europäischen Union gehostet werden. Das langfristige Ziel besteht darin, die Abhängigkeit von außereuropäischen Anbietern zu reduzieren.

Abgedeckte Bereiche: Visum und Verwaltung, Gesundheit, Kultur, Steuern, Wohnen, Sicherheit, Reiseplanung.

AI Act-Einstufung: begrenztes Risiko (KI-System, das mit natürlichen Personen interagiert — Art. 50.1). Hauptverpflichtungen: Transparenz.

3.2 Spezialisierte Mira Agents (Mira Chat)

Beschaffenheit: nach Land und Thema spezialisierte Konversationsagenten, gespeist von Mira Knowledge.

Funktion: Nomads kontextualisierte Informationen und Ratschläge in spezifischen Bereichen (Visum, Gesundheit, Kultur, Steuern, Wohnen, Sicherheit) bereitstellen.

AI Act-Einstufung: begrenztes Risiko — Transparenzpflichten.

3.3 Identitätsüberprüfung (KYC)

Beschaffenheit: automatisiertes Reisepassanalyse-System, das optische Erkennung (MRZ-Extraktion) und im Zweifelsfall bezüglich der Namensübereinstimmung ein Vision-Modell zur Untersuchung einsetzt.

Funktion: die Identität des Nutzers durch Vergleich der Reisepassdaten mit den Profilinformationen überprüfen.

Auswirkungen: Dieses System trifft Entscheidungen, die sich auf die Rechte des Nutzers auswirken (Bestätigung oder Ablehnung der Identität, die den Zugang zu Mira Trips bedingt). Als solches unterliegt es Artikel 22 der DSGVO über automatisierte Entscheidungen.

Garantien: Für alle mehrdeutigen Fälle ist ein menschliches Überprüfungssystem vorgesehen. Der Nutzer kann jede automatisierte Entscheidung anfechten und über den Kundensupport eine menschliche Intervention erlangen.

AI Act-Einstufung: begrenztes Risiko — Transparenzpflichten. Die Verarbeitung biometrischer Daten (Passfoto) erfordert erhöhte Wachsamkeit.

3.4 Automatisierte Moderation (geplant)

Beschaffenheit: KI-System zur Erkennung von Inhalten, die gegen die Regeln der Plattform verstoßen (Belästigung, Spam, illegale Inhalte, beleidigende Inhalte) in den Mira Tribes und Nachrichten.

Status: geplant, zum Zeitpunkt der Veröffentlichung dieser Richtlinie noch nicht eingesetzt.

Funktion: automatisierte Analyse von Nachrichten zur Erkennung von CGU-Verstößen.

Auswirkungen: Das System kann eine vorläufige vorübergehende Sperrung des Kontos auslösen, wenn der Inhalt offensichtlich gegen die Regeln verstößt. Jeder dauerhafte Ausschluss ist Gegenstand einer menschlichen Entscheidung.

AI Act-Einstufung: begrenztes Risiko — Transparenzpflichten.

3.5 Empfehlung und Personalisierung (geplant)

Beschaffenheit: System zur Vorschlag von Reisezielen, Unterkünften und Erlebnissen auf Basis des Profils und der Präferenzen des Nutzers.

Status: geplant, noch nicht eingesetzt.

AI Act-Einstufung: a priori begrenztes Risiko — bei Inbetriebnahme neu zu bewerten.

Artikel 4 — Transparenzpflichten

4.1 Kennzeichnung von KI-Systemen

Der Nutzer wird stets informiert, wenn er mit einem System der künstlichen Intelligenz interagiert:

• jeder Mira Agent wird in der Mira Chat-Oberfläche deutlich als solcher gekennzeichnet (Badge, ausdrücklicher Hinweis);
• Gespräche, die einen KI-Agenten beinhalten, werden in der Oberfläche hervorgehoben;
• Antworten von Mira Brain sind als KI-generiert erkennbar.

4.2 Einschränkungen und Warnhinweise

Der Nutzer wird darüber informiert, dass:

• Antworten von KI-Systemen automatisch generiert werden und Ungenauigkeiten, unvollständige oder veraltete Informationen enthalten können;
• diese Antworten in keinem Fall professionelle Ratschläge darstellen (rechtlich, medizinisch, steuerlich, finanziell, einwanderungsrechtlich);
• Mira Brain von Mira Knowledge (proprietäre Wissensbasis) gespeist wird, aber weder die Vollständigkeit noch die absolute Aktualität der Informationen garantiert;
• der Nutzer dazu angehalten wird, kritische Informationen bei offiziellen Quellen zu überprüfen (Botschaften, lokale Behörden, Gesundheitsfachleute, Steuerberater);
• Hello Mira nicht für Entscheidungen haftbar gemacht werden kann, die der Nutzer auf der Grundlage von Informationen trifft, die von einem KI-System bereitgestellt wurden.

4.3 Meldung

Der Nutzer kann jede unangemessene, ungenaue oder problematische Antwort melden, indem er den in der Oberfläche integrierten Meldemechanismus nutzt (Schaltfläche zur Meldung, die bei jeder Antwort des Mira Agent verfügbar ist).

Meldungen werden vom Hello Mira-Team geprüft und tragen zur kontinuierlichen Verbesserung der Systeme bei.

Artikel 5 — KI-Qualität und Governance

5.1 Mira Knowledge — Wissensbasis

Mira Knowledge ist eine proprietäre Wissensbasis, die gespeist wird durch:

• Felddaten, die von Amigos, Mentors und der Nomads-Community gesammelt wurden;
• verifizierte öffentliche Quellen (Vorschriften, Touristikinformationen);
• Erfahrungsberichte der Community.

Hello Mira verpflichtet sich dazu:

• die in Mira Knowledge enthaltenen Informationen regelmäßig zu aktualisieren;
• die verwendeten Quellen zu dokumentieren;
• Informationen zu kennzeichnen, deren Aktualität nicht garantiert werden kann.

5.2 Menschliche Aufsicht

Hello Mira unterhält eine menschliche Aufsicht über seine KI-Systeme:

• automatisierte Entscheidungen, die Auswirkungen auf die Rechte des Nutzers haben (KYC, Moderation), sind systematisch mit einem menschlichen Rechtsbehelf verbunden;
• das Hello Mira-Team führt regelmäßige Qualitätsprüfungen der Antworten und Gespräche durch;
• falls der Mira Agent nicht in der Lage ist, zufriedenstellend zu antworten, ist eine Eskalation zu einem Menschen möglich.

5.3 Umgang mit Verzerrungen (Bias-Management)

Hello Mira verpflichtet sich dazu:

• mögliche Verzerrungen in den Antworten der KI-Systeme zu erkennen und zu reduzieren;
• eine ausgewogene Abdeckung der Informationen unabhängig von Nationalität, Sprache oder Profil des Nutzers sicherzustellen;
• Qualitäts- und Zufriedenheitskennzahlen zu überwachen, um die Relevanz der Antworten zu bewerten.

Artikel 6 — Daten und KI

6.1 Von KI-Systemen verarbeitete Daten

Bei einer Interaktion mit einem Mira Agent oder Mira Brain können folgende Daten zur Generierung der Antwort verwendet werden:

• der Inhalt der Frage des Nutzers;
• der Kontext des Gesprächs (vorherige Nachrichten der Sitzung);
• Profilelemente (Reisepräferenzen, Nationalität, konsultiertes Reiseziel), sofern für die Personalisierung erforderlich;
• Daten aus Mira Knowledge (Wissensbasis).

Sensible Daten (Passscan, Zahlungsdaten, Passwort) werden niemals an konversationelle KI-Systeme übermittelt, außer im spezifischen Rahmen des KYC-Prozesses (Artikel 3.3).

6.2 Nutzung zur Verbesserung

Gespräche mit KI-Systemen können zur Verbesserung der Servicequalität und zur Bereicherung von Mira Knowledge verwendet werden, unter den in der Datenschutzrichtlinie (Artikel 4) ausgeführten Bedingungen.

Der Nutzer hat ein Widerspruchsrecht gegen diese Nutzung (siehe Datenschutzrichtlinie).

6.3 Übermittlungen an KI-Anbieter

Wenn Hello Mira KI-Modelle von Drittanbietern (Gemini, Claude, GPT, Mistral) verwendet, wird der Inhalt der Anfragen zur Verarbeitung an die Server des Anbieters übermittelt.

Hello Mira hat bei seinen Anbietern überprüft, dass:

• die Anfragedaten nicht für das Training der Modelle der Anbieter genutzt werden (außer im Rahmen spezifischer vertraglicher Vereinbarungen, die etwas anderes vorsehen, in welchem Fall der Nutzer informiert wird);
• die Daten in Übereinstimmung mit den SCC (Standardvertragsklauseln) für Übermittlungen außerhalb der EU verarbeitet werden.

Einzelheiten zu den Übermittlungen sind in der Datenschutzrichtlinie festgelegt.

Artikel 7 — Berechtigungssystem (Mira Agents)

Bestimmte Mira Agents können den Zugriff auf spezifische Daten anfordern, um eine personalisierte Antwort zu liefern (Standort, Präferenzen, Reiseverlauf).

Der Nutzer:

• wird informiert über jeden Zugriffsantrag, bevor er zustimmt;
• kann jede Berechtigung gewähren oder verweigern — einzeln;
• kann eine Berechtigung jederzeit aus den Einstellungen seines Kontos widerrufen;
• kann temporäre Berechtigungen (begrenzte Dauer) erteilen.

Die Verweigerung einer Berechtigung kann die Relevanz der Bot-Antwort einschränken, ohne den Zugriff auf die übrigen Funktionalitäten der Plattform zu beeinträchtigen.

Artikel 8 — Technologische Souveränität

Hello Mira verfolgt einen Ansatz der technologischen Souveränität mit dem Ziel:

• eigene proprietäre KI-Modelle zu entwickeln;
• seine KI-Systeme auf europäischer Infrastruktur (OVHcloud) zu hosten;
• die Abhängigkeit von außereuropäischen KI-Anbietern schrittweise zu reduzieren;
• langfristig sicherzustellen, dass die Daten der Nutzer die Europäische Union für die KI-Verarbeitung nicht verlassen.

Dieser Ansatz ist schrittweise und wird in den Aktualisierungen dieser Richtlinie widergespiegelt.

Artikel 9 — Weiterentwicklungen und Aktualisierungen

Diese Richtlinie wird aktualisiert in Abhängigkeit von:

• der Weiterentwicklung der von Hello Mira verwendeten KI-Systeme (Einsatz der automatisierten Moderation, des Empfehlungssystems, der proprietären Modelle);
• der Weiterentwicklung des Regulierungsrahmens (AI Act Verhaltenskodizes, Leitlinien der Europäischen Kommission);
• den Rückmeldungen der Nutzer und der Kontrollbehörden.

Bei wesentlichen Änderungen werden die Nutzer per E-Mail und/oder In-App-Benachrichtigung informiert.

Artikel 10 — Kontakt

Bei Fragen zur Nutzung von künstlicher Intelligenz durch Hello Mira:

• E-Mail: [email protected]
• Postanschrift: CES Venture SAS — Euratechnologies, 165 avenue de Bretagne, 59000 Lille, France

Um ein Problem mit einer KI-Antwort zu melden: Verwenden Sie die in die Mira Chat-Oberfläche integrierte Schaltfläche zur Meldung.