KI - Die Künstliche Intelligenz

Computer-System-Validierung + KI + CSA (Stand 2025)

Lage: KI wird in der pharmazeutischen Produktion und Lagerung vor allem für Prozesskontrolle, Vorhersagen, Optimierung und Compliance eingesetzt. Dabei handelt es sich nicht nur um „Software“, sondern um integrierte Systeme, die sensorgestützte Echtzeitdaten analysieren, Vorhersagen treffen und Handlungen empfehlen. Es gibt, aktuell, einige wenige Beispiele, wo KI bereits genutzt wird. Einige Logistikzentren nutzen KI für automatische Temperaturkontrolle, Predictive Inventory Management, z. B. für Impfstoffe. Oder zur Überwachung von Impfstoffproduktionslinien, Vorhersage von Produktionsausfällen und Optimierung von Mischprozessen. Auch im Einsatz von Machine Learning zur Vorhersage von Qualitätsproblemen bei Sterilprozessen.

Im Bereich ERP/MES der Pharmaindustrie wird derzeit nur über wenige konkrete, vor allem offiziell kommunizierte KI Projekte berichtet. Ein Grund dafür ist, dass viele Initiativen in der Praxis Teil größerer Digital-/Industrie-4.0-Programme sind und nicht immer öffentlich als „KI-Projekt“ ausgewiesen werden, sondern oft unterschiedlich definiert sind (z. B. MES-Lieferanten, Cloud-Integrationen, AI-Analytics). Die Definition von „KI-Projekt“ variiert noch. Branchenspezifische Roll-outs sind oft noch Pilot- oder Inselprojekte. KI ist im GMP-Kontext neu, und der GAMP 5 (auch 2nd Ed. 2022) ist nicht KI-spezifisch. Die klassische CSV (Computerized System Validation) ist bei KI / ML zudem nicht mehr ausreichend.

Unterscheidung im Fortschritt bei KI in F&E, Labor und Kommerziellen Bereichen

Der KI-Einsatz ist in Forschung & Laboren oft weiter experimentell fortgeschritten, während er im kommerziellen Betrieb (Produktion, Logistik) langsamer, dafür stabiler und zielgerichteter eingeführt wird. In Produktion & Logistik ist KI nicht weniger entwickelt, sondern durch bestimmte Faktoren stärker eingeschränkt. In Drug Discovery & Pre-Clinical gehört KI inzwischen fast zum Standard. KI ist regulatorisch sensibel, da die Modelle erklärbar und validierbar sein müssen. Im Bereich Produktion & Qualität: sehr konservativ im Pharmabereich mit GMP, FDA, EMA bei Änderungen = Re-Validierung, KI = „Black Box“ (und den noch nicht gültigen neuen Annex-11 und Annex-22) sind derzeit ein Problem für Auditoren, jeder Modell-Drift ist ein Compliance-Risiko. Patientensicherheit ist alles und Regulierung muß auf Jahrzehnte ausgelegt sein. Das Thema ist komplex, und kann hier im Blog nicht vollständig abgebildet werden. Wir halten uns in aktuellen Projekten an die aktuelle gültige (verabschiedete) Gesetzeslage und vorausschauend auf bestimmte Guidelines immer in Abstimmung mit QA und Global QA. Im Konzernumfeld sollte man die Sichtweise auf KI differenzierter betrachten als im Mittelstand.

Der EU AI Act 2024

Spätestens mit dem EU Al Act, vom August 2024, dem weltweit ersten umfassenden Rechtsrahmen für KI, wird deutlich: Unternehmen müssen sich nicht nur mit den Chancen der Technologie befassen, sondern auch mit ihren Risiken. Der EU Al Act ist eine Rechtsverordnung und verbindlich für alle die in der EU als Anbieter tätig sind. Der Al Act teilt KI-Systeme in vier Risikoklassen ein. Für Hochrisiko-Systeme gelten detaillierte Anforderungen an Transparenz, Nachvollziehbarkeit, Datenschutz und Governance: Die ISO/IEC 42001:2023 ergänzt bestehende Normen wie ISO 13485 (Qualitätsmanagement) und ISO 14971 (Risikomanagement), indem sie Kl-spezifische Anforderungen abdeckt.

Was kommt neu ? - Annex-22 und KI (2026)

Der neue Annex-22, ist eine Ergänzung zum (neuen Update) Annex 11. Er fordert u.a. Acceptance Criteria, Test Data, Test Data Independency, Test Execution, Explainability. Es gibt erstmals einen eigenständigen regulatorischen Rahmen für KI-Modelle im GMP-Umfeld. Der Annex 22 übersetzt somit den Branchen übergreifenden EU AI Act (von 2024) in praxisnahe Anforderungen für den pharmazeutischen GMP-Kontext. Im Rahmen eines KI-Projektes muss die Forderung des Annex-22 besonders betrachtet werden.

Die Vorgaben gelten immer dann, wenn KI-Modelle zur Vorhersage, Klassifikation oder Entscheidungsunterstützung in GMP-kritischen Anwendungen eingesetzt werden,. Der Annex 22 zieht, sobald die KI-Modelle in die GMP-relevanten Prozesse eingebunden sind, etwa bei der Bewertung von Abweichungen, der Klassifikation von Rohdaten oder der Unterstützung bei Freigabeentscheidungen.

Der Annex 22 regelt, dass KI-Systeme in regulierten Umgebungen transparent, reproduzierbar und validierbar sein müssen. Sogenannte „Black Box“-Ansätze oder selbst lernende Modelle im produktiven Einsatz sind nicht zulässig. Zudem wird ein kontrolliertes Änderungsmanagement gefordert: Jede Veränderung am Modell, am System oder an den Eingabedaten muss dokumentiert und bewertet werden. Wir sind auf dem Laufenden: Wir unterstützen bei der Anpassung, Umstellung von Verfahren und Dokumenten, neuen Tests - siehe auch unseren "Comparison Annex-11:FDA 21 CFR Part 11". Neuer Annex-11, Einführung und Anwendung des Annex-22. Wie sieht die Validierung damit aus ? Was sagt der Kontext des FDA Part-11 dazu ?

Neuer Annex-11 --> Was kommt auf uns zu ?

Wer trägt die operative Verantwortung für KI ?

Die Q-Bereiche sind gefordert die regulatorische Herausforderung anzunehmen. Es muß sichergestellt werden, dass KI-gestützte Funktionen keine unkontrollierten, ungeprüften GMP/GxP-Auswirkungen erzeugen. Der System Owner hat die Gesamtverantwortung für die Funktionsfreigabe des Systems einschließlich KI-Aspekte. Der Process Owner für die Sicherstellung, dass System- und KI-Funktionen die Prozessanforderungen erfüllen. Der KI-Engineer ist für Erstellung, Training, Versionierung und Pflege der KI-Modelle sowie die Durchführung spezifischer KI-Risiko- und Leistungsanalysen verantwortlich. Weitere Beteiligte von QA-/QS bis hin zu den Anwendern sind in der Verantwortung.

Wo liegt die Verantwortung für KI im Konzernumfeld ?

Die Gesamtverantwortung (Oversight & Compliance) für KI trägt die Globale QA. Wenn KI in Bereichen wie Computergestützte Systeme (z. B. Automatisierung), Entscheidungsunterstützung im Herstellungsprozess und der GxP-kritischen Datenverarbeitung unterliegt, sollte der Eintrag im Site Master Filer erfolgen. Nach dem EU-GMP (Kapitel 4 und Annex 15) gibt es (Stand 2025) keine formelle explizite Pflicht, den unternehmensweiten Einsatz von KI ausdrücklich im Site Master File (SMF) aufzulisten.

Jedoch: GMP-kritische Entscheidungen aus KI in qualitätsrelevanten IT-Systemen, die Einfluss auf die (GMP-) Datenintegrität/Chargen-Management etc. an einzelnen Produktions-Standorten haben oder konzernweit genutzt werden - in solchen Fällen gilt KI als Teil der qualitäts-relvanten IT-Landschaft, und ist im Site Master File zu vermerken (Thema KI-Policy, genehmigt für den Konzerneinsatz --> Best Practice bei GMP-relevantem Einsatz). Wir übernehmen für Sie die entsprechenden Maßnahmen zu KI Themen im QMS, auf Site-Ebene und für "Global QA". Unser Panel für KI Integration in das QMS . Die Frage ist, was muss definiert sein damit eine regelkonforme CSV möglich ist.

KI relevante (IT-) SOPs (Sites)
KI Integration in das QMS
Site Master File (SMF)
Globale SOPs und Policies

Was kann man dem GAMP® 5 2nd ED zu KI entnehmen ?

Zuerst zum neuen Annex-11: Die Entwürfe des neu strukturierten Annex 11 (ab 2026) zeigen, der Umfang hat von 5 auf 19 Seiten zugelegt. Der neue Annex 22 übersetzt den Branchen übergreifenden EU AI Act (von 2024) in praxisnahe Anforderungen für den pharmazeutischen GMP-Kontext. Mit dem Annex-22 gibt es erstmals einen eigenständigen regulatorischen Rahmen für KI-Modelle im GMP. KI-Systeme müssen transparent, reproduzierbar und validierbar sein. So genannte „Black Box“-Ansätze oder selbstlernende Modelle sind im GMP-Einsatz nicht zulässig. Was zeigt der GAMP-5 2 nd ED (2022) zum Thema KI ?

Was heute (Stand 2025) zu „GAMP-5-konformer KI“ gesagt wird, ist Interpretation
GAMP 5 (2nd Ed.) enthält KEINE expliziten Regeln, Methoden oder Best Practices für KI.
Der GAMP-5 liefert einige Prinzipien, die auf KI angewendet werden können.
GAMP-5 2nd ED gibt eine Richtung vor und bindet KI-Modelle mit ein: Siehe KI/ML (Anhang D11)
GAMP 5 (2nd Ed.) sagt nicht wie KI zu validieren ist oder welche KI-Architekturen zulässig sind
GAMP 5 (auch 2nd Ed. 2022) ist nicht KI-spezifisch
Der GAMP 5 (2nd Edition) lässt erkennen, dass der Einsatz von KI eigene risikobasierte Konzepte erfordert, die über e. reine Erweiterung der CSV hinausgehen.
Gesondert verfügbar (seit Juli 2025): ISPE GAMP® Guide - Artificial Intelligence: Fokus KI-gestützte Systeme (ca. 290 Seiten)

Der GAMP-5 in seiner 2nd ED tendiert auf KI-Modelle, siehe KI/ML (Anhang D11), d.h. gefordert wird: Bereits bei der Erstellung der User Requirements Specification (URS) wird mehr Fachinhalt gefordert, das gilt auch für KI-Funktionen: Es geht um Datenmodelle, Klassifizierung von KI-Funktionen, Human-in-the-Loop (HITL), Audit Trails bei automatisierten Entscheidungen bis hin zur Verifizierung der nicht-KI Bestandteile, der Risikobetrachtung, oder einem Leitfaden zur Drift-Überwachung. GAMP® 5 2nd ED stellt KI in den Kontext zu ICH Q9 (Risikomanagement) Datenintegritäts-Guidelines und den Annex 11 / 21 CFR Part 11. Damit lassen sich KI-Systeme in das bestehende QMS integrieren.

Was sagt die Fach-Literatur zu KI ?

Nach Einschätzung der ISPE besteht weiterhin Bedarf an umfassenden Leitlinien für den Einsatz von KI in GxP-regulierten Umgebungen.
(ISPE GAMP AI Guide, 2025)

Hinweis: Die auf dieser Website bereitgestellten Informationen dienen ausschließlich zu Informationszwecken und erfolgen ohne Gewähr Siehe Kapitel Haftungsausschluss .internal://f90f8983-120d-4689-b665-a6faf8f307dd

Wie weit ist KI + Best Practice ? (und CSA ?)

Die wenigen, bislang bekannten KI-Implementierungen im Rahmen klassischer CSV-Validierungsprojekte sind nach unserer Einschätzung noch nicht als Best Practice für KI-Validierungen zu bewerten (Stand 2025). Dies gilt insbesondere dann, wenn sie nicht in ein vollständiges, risikobasiertes Validierungskonzept gemäß GAMP 5 eingebettet sind. Der GAMP 5 (2nd Edition, 2022) ist nicht KI-spezifisch. Er liefert allgemeine Prinzipien für einen risikobasierten und defensiven Einsatz computergestützter Systeme in GMP-Umgebungen, jedoch keine expliziten Best-Practice-Vorgaben für KI-Systeme.

Aus fachlicher Sicht ist die klassische Computerized System Validation (CSV) für KI-/ML-Systeme allein nicht ausreichend. KI-Systeme enthalten Komponenten (z. B. Modelle, Trainingsdaten, Lernverhalten), die über den klassischen CSV-Ansatz hinausgehen. CSV bildet weiterhin die Grundlage, sollte jedoch für KI-Anwendungen um einen zusätzlichen KI/ML-Validierungs-Layer ergänzt werden, der insbesondere das Modell und dessen Verhalten adressiert.

Datenqualität & Data Governance sind kritischer
Modelle können sich verändern → Continuous Model Performance Monitoring
Erklärbarkeit, Bias-Kontrolle, Trainingsdaten-Versionierung, Use-Case-Analyse
Lifecycle-Management für Modelle (KI GxP OPS / MLOps) ?
Bei "imbedded KI" mit GxP /GMP muss das übergeordnete System mit validiert werden (ICH Q9(R1)
GAMP 5 selbst deckt KI-Themen (vorerst) über Anhang D11 ab.
CSA ist Best Practice für operative CSV: CSV liefert den Rahmen, CSA die Methodik, d.h CSA muß in der CSV-SOP als Kapitel verankert sein

Trotz aller Aussagen, Guidelines, White-Papers und Auslegungen die uns Richtungen vorgeben, gibt es noch nicht gelöste Bestandteile wenn es um KI Modelle und KI Anwendungen geht , die im Einzelfall der Klärung und Ausrichtung bedürfen:

Gesetzeslage - Validierung von KI: Die Regulierung ist derzeit (Ende 2025) nicht KI-reif
Lebenszyklusmanagement von KI ist unscharf
Anforderungen an Trainingsdaten (und validen Testdaten)
Datenintegrität (ALCOA⁺) nicht immer sicher nachweisbar
KI kann Fehler generieren, die schwer erkennbar sind
Für QA ist "Black Box" ein unkalkulierbares Risiko.
Derzeit gibt es (noch) keine belastbare „Lessons Learned“-Basis

Welche Vorgaben gibt es bis jetzt (2025) von FDA, EMA, ISPE, ICH .. zu KI ?

Zur Zeit gibt es keine gültigen konkret gesetzlichen Vorgaben. Die FDA hat derzeit keine umfassende separate KI-Gesetzgebung (!), sondern veröffentlicht schrittweise Guidance-Dokumente und Empfehlungen speziell für KI-Anwendungen. Der EU AI Act wirkt übergeordnet für alle KI-Systeme, einschließlich Pharma- und Medizinmarkt. Die EU wird mit dem neuen Annex-11 und dem Annex-22 explizit zuerst das Thema KI aufstellen. ICH-Initiativen zu KI-Themen werden diskutiert, z. B. KI zur Datenanalyse in Zulassungsunterlagen, aber es gibt noch keinen finalen ICH-AI-Guideline-Text, bzw. Standard (Stand: End 2025).

Der Aktuelle EU-Annex-11 (2025) ist ohne KI: Der neue Annex-11 und Annex -22 (KI) sind noch nicht verabschiedet.
Die FDA stellt diverse Guidelines zu KI zur Verfügung - diese Guidelines sind "vorerst" zur Kenntnis zu nehmen - die Gesetzeslage folgt erst noch (?)
GAMP AI Guide (2025) mit Fokus auf Daten, Modellentwicklung, Tests und Überwachung
Neue internationale ISO/IEC-Normen für KI-Systeme, je nach Use Case eine Ergänzung, sind z.Bsp. ISO/IEC 25059 – Qualitätsmodelle für KI-Systeme
Globale Harmonisierung:Es gibt keine bestätigte ICH-Ankündigung, dass eine Guideline zu KI bis 2028 kommt.

CSA - für wen und wann ? Die FDA + CSA: Moderner, risikobasierter Ansatz, aber ...

Neben der bisherigen CSV nach GAMP5 propagiert die US-FDA den so genannten „Computer Software Assurance“ (CSA)-Ansatz. Die CSA zielt darauf ab, Validierung riskobasiert, effizienter und auf kritische Funktionen fokussiert durchzuführen — statt einschränkender, vollständiger Testdokumentation. Dabei spielen kritisches Denken und automatisierte Prüfmethoden eine größere Rolle. Diese Methodik kann für KI-Anwendungen leichter skalierbar sein als GAMP5-Zyklen. Interessant wenn der US-Markt beliefert wird und die FDA-Regularien berücksichtigen müssen oder Validierung agil und risikobasiert gestaltet werden soll.

Finale Version der CSA-Guidance: von der FDA am 24. September 2025 offiziell veröffentlicht.
Grundsätzlich: FDA-Guidances sind keine Gesetze und ohne rechtlich bindende Wirkung wie z. B. wie ein CFR-Regelwerk oder ein Gesetz
Anwendungsrahmen: FDA-regulierte Medizinprodukte-Software (Produktion und Qualitätssysteme):

Die CSA-Guideline heißt vollständig: “Computer Software Assurance for Production and Quality System Software” und richtet sich an Hersteller von FDA-regulierten Medizinprodukten (21 CFR Part 820 / künftig QMSR) bzw. der QMSR-Transition zu ISO 13485. inkl. Original Equipment Manufacturers (OEMs), Legal Manufacturer, Contract Manufacturer für PQSS-relevante Systeme (z. BSp. QMS (CAPA, Complaints, Change Control), MES / Produktionssteuerung, LIMS, ERP-Module mit Qualitätsrelevanz, Prüf- und Freigabesysteme oder Reporting- & Analyse-Tools.

Formaler Scope: Software, die in der Produktion oder im Qualitätssystem eines FDA-regulierten Medizinprodukteherstellers eingesetzt wird. Das bedeutet - FDA-regulierte Medizinprodukte-Software (Produktion & Qualitätssysteme): Seit 2025 ist die CSA Guidance der „Final Guidance“ der FDA für Computer Software Assurance in Produktions- und Qualitätssystemen. Sie ersetzt bzw. ergänzt Teile der früheren FDA-Softwarevalidierungs-Guidance (insbesondere den Abschnitt zu automatisierter Prozess- und Qualitätssystemsoftware) und soll einen risikobasierten Ansatz zur Lösung dieser Herausforderungen sein.

CSA + KI --> für kommerzielle Systeme

Wie ist das mit kommerziellen Systemen (ERP, MES, WMS, Lagersysteme)? CSA ist anwendbar, z. Bsp. wenn ein ERP die Chargenfreigabe steuert, ein Lagersystem verwaltet verfallskritische Materialien oder ein Microsoft Excel / BI-Tool wird für Qualitätsentscheidungen genutzt. Der CSA-Ansatz ist FDA-konform anwendbar und ermöglicht eine zielgerichtete Modernisierung klassischer CSV-Ansätze hin zu einer risikobasierten, evidenzorientierten Software-Assurance.“

Der CSA-Ansatz ist im kommerziellen Pharma-Umfeld bei KI inzwischen unverzichtbar.
Zu beachten ist, wie CSA konkret auf KI-CSV angewendet wird.
GAMP 5 Second Edition (2022) ist auf die Prinzipien von CSA ausgerichtet.
ISPE Good Practice Guide: Computer Software Assurance (CSA)

Hinweis: Die auf dieser Website bereitgestellten Informationen dienen ausschließlich zu Informationszwecken und erfolgen ohne Gewähr Siehe Kapitel Haftungsausschluss .

KI Readiness und IT Compliance am Pharma Standort: Analyse + Vorprojekt

Seit 2023 gibt es auch einen Trend in Richtung lokaler KI-Systeme. Um ein Projekt mit KI durchzuführen, sollte eine Analyse auf "KI Readiness" für den Pharma Standort erfolgen. Dabei wird geprüft, ob die Voraussetzungen bestehen, eine Implementierung von KI in die Struktur des Standortes, bzw des Fachbereiches vorzunehmen. Was bedeutet es, wenn ein KI-Modell in die IT-Struktur von ERP oder MES bei Herstellung oder Logistik integriert wird. Wir unterstützen, welche Maßnahmen aus regulatorischer Sicht notwendig sind. Wichtig: Nicht das KI-Modell allein wird „validiert“, sondern die Anwendung inkl. der KI-Komponente(n).

Was entsteht ? Wir betrachten, im Rahmen einer KI Readiness, die KI Readiness aus regulatorischer Sicht und der IT Compliance für die anvisierten Bereiche (ERP, MES) an einem Standort. Wo und wie KI realistischen Nutzen schaffen könnte, oder welche KI-Use-Cases machbar sind, ist nicht Bestandteil. Die Frage ist, kann KI unter den aktuellen Voraussetzungen GxP-konform und valide eingeführt werden: ready, partially ready oder not ready. Hier eine Zusammenfassung einer allgemeinen Vorgehensweise (Minimum) für IT Compliance - wir verweisen darauf, dass eine vollständige KI Readiness auf allen Ebenen für ERP, MES oder Labor eine umfassende Studie voraussetzt.

Betrachtung des QMS, der CSV SOPs, Validierungsthemen, Annex-22, Part-11, Diverse Policies, Data Governance, SMF
Verantwortlichkeiten GxP/GMP, Rollen, neue Rollen Definitionen
Aufnahme relevanter Prozesse + Automatisierung, + mögliche KI-Use-Cases (Formulierung, Abfüllung, Verpackung)
Interviewes + Shopfloor Begehungen / Engineering / IoT/ Systemlandschaft
Data Readiness Assessment z. Bsp. MES / SCADA / Historian, Maschinen- und Sensordaten, auf GMP Relvanz
Umgang mit Black-Box-Modellen (Erklärbarkeit) - Validierbarkeit, V-Modelle
Beispiel für KI Use Cases - (Validierung: Annex-11 (-22), FDA 21 CFR Part 11)
Weitere Bestandteile der IT Compliance und CSV

Wir unterstützen QA / QS bei der Gesamtbetrachtung einer KI Readiness am Standort in Sachen IT Compliance und ob KI GxP-konform eingeführt werden kann. → inkl. der Klärung für den Validierungsbedarf, Aufwand, Vorgehensweise, Validierungsplan Draft 1. Im Rahmen eines Vorab-Termins, besprechen wir mit Ihnen diese Themen.

Klärung der Vorgaben und Ziele der Global QA zu KI - Globale KI SOPs

SOP CSV für KI - basierte Systeme (gesonderte SOP für die KI Anwendung)

Wir erstellen diese wichtige SOP nach GAMP® 5 2nd ED "Computer-System-Validierung für Systeme mit Künstlicher Intelligenz" oder auch „SOP Computerized System Validation (CSV) für KI-basierte Systeme“ genannt. Wenn KI nur eine Komponente einer Software ist, dann kann sie auch "SOP Validierung von Machine-Learning-/KI-Modellen in GxP-Systemen“ benannt werden. KI hat einen eigenen Life-Cycle, das muß berücksichtigt werden.

Im produktiven Betrieb muss das System, das mit KI (GMP-) Daten erzeugt und über ein eigenes Verfahren sein Modell ausübt, gemäß definierten Prozessen verwendet, überwacht und validiert werden. Eine KI Komponente fungiert als Modell, Algorithmus oder Pipeline, trainiert datenbasiert oder generativ und liefert potenziell variierende Ergebnisse, als eigene Komponente, oder in einer Anwendung wie ERP oder MES.

Warum eine eigenständige SOP für KI ? Der GAMP® 5 2nd ED empfiehlt, dass die Validierung auf Basis der Systemkritikalität erfolgt. Denn KI kann ein hohes Risiko darstellen, da Entscheidungen nicht immer deterministisch sind. KI lernt aus Daten und verändert seine Performance über Zeit. Dadurch entstehen spezielle Risiken und Anforderungen, die eine eigene Validierungs-SOP erforderlich machen. Eine separate SOP erlaubt, spezifische Risikomanagementmaßnahmen zu definieren.

KI erfordert ein kontinuierliches Monitoring, Training, und Performance-Checks, die über den klassischen CSV-Lifecycle hinausgehen. Eine separate SOP stellt sicher, dass diese Schritte systematisch abgedeckt werden. Nach der Auslegung des Annex-22 (der erste regulatorischen Rahmen für KI-Modelle im GMP, ab 2026) sind „Black Box“-Ansätze im GMP-Einsatz nicht zulässig. Nur erklärbare und dokumentierte KI-Modelle sind zulässig, wenn sie validiert werden können, sonst nicht. Black-Box-Systeme verstoßen dem Grunde nach gegen das GMP-Prinzip. Für die KI Validierung gibt es derzeit mehrere Ansätze.

Zusammenfassend: Grundsätzlich - KI Modelle müssen validiert sein und kritische KI-gestützte Prozesse benötigen umfangreiche Tests und Validierungsdokumentation. Nicht nur das KI-Modell allein wird „validiert“, sondern die Anwendung inkl. der KI-Komponente. Für eine SOP muß einiges beachtet werden, hier ein Auszug:

KI in GxP-Systemen muss von Anfang an in die CSV und das QMS integriert sein.
Verifzierung des nicht-KI Teils einer Anwendung oder Prozesses ist unbedingt erforderlich
Risikoanalyse und Initiative im laufenden Betrieb (Daten, KI-Modell, Sicherheit)
Nachträgliche KI-Integration ohne Lifecycle-Plan ist nicht GAMP-5-konform
Voraussetzungen und Vorgaben der Global QA zu KI
weitere Punkte

Wir erstellen die KI-relevanten SOPs und integrieren sie in das bestehende QMS. Nutzen Sie unsere Erfahrung aus konsequenter QA-Arbeit für spezielle SOPs und neue Methodenansätze, GAMP-5 konform, auch rund um das Thema KI.

Hinweis: Die auf dieser Website bereitgestellten Informationen dienen ausschließlich zu Informationszwecken und erfolgen ohne Gewähr Siehe Kapitel Haftungsausschluss .

CSV KI-Projekt - KI Modell + Validierung einer KI Anwendung ( + CSA)

Die Validierung eines KI Modells-/ Systems muss im Kontext mit der jeweiligen Anwendung / dem Ziel -System betrachtet werden. Je nach Nutzung der Ergebnisse (aus KI) ist auch die Erstellung von weiteren Leitfäden und Rahmenbedingungen erforderlich. Die Herausforderungen sind eine dynamische Produktionsumgebung, verrauschte Daten, das KI-Modell und die Integration in ein MES oder ERP. Wenn ein KI-Modell falsche Ergebnisse an das ERP-System liefert, führt das zu Produktionsstillständen, Fehlberechnungen oder Problemen in der Logistik. Nicht nur das KI-Modell muss "valide" sein, auch die Anwendung inkl. der KI-Komponente ist zu valideren und nachweisbar zu verifizieren.

Die KI-Anwendung wird im Rahmen des CSV-Ansatzes als System integriert, sowie zusätzlich über einen KI/ML-Validation-Layer für ihr Entscheidungsverhalten im produktiven Prozess validiert. Der "KI Validation Layer" ist eine logische und organisatorische Zwischenschicht, die zwischen validiertem GMP-System (ERP/MES/QMS )und dem KI/ML-Modell liegt. Die KI wird nicht isoliert validiert, sondern als Bestandteil des End-to-End-Prozesses im produktiven Umfeld. Die Validierung umfasst zwei Ebenen:

CSV des Systems + der Prozessintegration
KI/ML-spezifische Validierung des Modells

Änderungen am Modell unterliegen einem kontrollierten Lifecycle- und Change-Management.

Ein Beispiel: Der Use Case ist Startpunkt der KI-Validierung. Ein Use Case ist ein Teil der Ebene des KI/ML Validation Layers, mit Schnittstelle zur CSV/CSA-Ebene. Wird ein Use Case in der Herstellung beschrieben, der eine KI-gestützte Optimierung der Produktionsreihenfolge im Abfüllbereich zieht, bedeutet das, dass von KI angelegte Daten analysiert werden, wie z.Bsp. Batchgrößen, Rüstzeiten, Linienverfügbarkeiten, QC-Kapazitäten. Drauf hin wird der optimale Produktionsplan unter Berücksichtigung von GMP-relevanten Einschränkungen erstellt und angezeigt. Der Use Case hat hier aber nur indirekte GxP-Relevanz, da er Produktionsplanung zwar beeinflusst, aber keine direkte Qualitätsentscheidung trifft.

Wir unterstützen und begleiten von Beginn an in einer frühren Phase (DQ) und bei den notwendigen Vorarbeiten.Wir erstellen mit Ihrer QA zusammen die erforderlichen Dokumente, SOPs und Policies und bereiten Sie auf das Projekt und den KI Einsatz an Ihrem Standort vor (siehe KI Readiness für Sites). Und wir führen die Maßnahmen der Validierung der IT Bestandteile durch: (Coaching und Operativ):

Wir machen Know-how Transfer zu unseren Kunden. Die u.a. Aufstellung ist jedoch ausdrücklich nicht vollständig.

Update SMF, Diverse KI Policies
Update des GAMP® 5 nach GAMP® 5 2nd ED
Installation der Rolle KI-Engineer, weitere Updates zu Rollen (HITL)
Verschiedene SOPs und Leitfäden sind für KI anzupassen
Verschiedene SOPs auf Site Ebene (Level 3) und Templates (Level 4)
Überlegung: CSV + CSA Ansatz (CSA Guidline der FDA seit September 2025)
CSA: CSV-Rahmen + CSA-Umsetzung + KI-spezifische Kontrolle
Die SOP "Computersystemvalidierung" muss auf dem Stand sein (sowie: CSV-SOP mit integriertem CSA-Kapitel)
Die SOP "Computerized System Validation (CSV) für KI-basierte Systeme“ muss vorliegen.
Die SOP "KI-Risikomanagement" muss vorliegen
Integration der KI Funktionen und des KI Modells in das GAMP 5 V -Modell für CSV (--> CSA beachten)
Gesetzlicher Lieferantenaudit
Konfiguration 3-Q oder 4-Q Landschaft
Modellvalidierung (KI): Daten, Modellbeschreibung, Testmethoden, Entscheidungskriterien, Risiken & Grenzen des Modells
Verifzierungsansatz zum führenden System + Build-in-Checkliste für KI Integration, Anwendung + KI-Modell
Validierungplan Version 1 (DQ-Phase) für Ihr CSV / KI Projekt, GAMP® 5 2nd ED konform
URS (DQ) - Anforderungen an die KI Funktionen und den KI Einsatz im System-Gesamtkontext + GMP Bewertung
Risikoanalyse / FMEA für die KI Anwendung, angepasst an GxP-Relevanz des geplanten Use-Cases (--> CSA beachten)
DQ-Bericht + Checkliste für KI und IT
Validierungstests, IQ, OQ, (PQ) (--> CSA beachten)
QMS - Update diverser SOPs
Produktiv Setzung (IT und CSV- Go Life für KI-System - Checkliste für die Systemlandschaft)
PQ-Phase on going

Hinweis: Die auf dieser Website bereitgestellten Informationen dienen ausschließlich zu Informationszwecken und erfolgen ohne Gewähr Siehe Kapitel Haftungsausschluss .

HOME

TOP