Im OT-Bereich wird KI derzeit primär in den Sektoren Energie, Wasseraufbereitung, Gesundheitswesen und Fertigung eingesetzt. Der Grund ist der gleiche wie an anderen Stellen: Um Prozesse zu optimieren sowie automatisieren und damit Effizienz und Verfügbarkeit zu verbessern.
Sicherheitsbehörden befürchten, dass Unternehmen sich auf eine neue und noch nicht ausgereifte Technologie einlassen, ohne deren Grenzen zu bewerten, ähnlich wie es in der IT geschehen ist. Unter Berücksichtigung der Risiken für industrielle Steuerungssysteme (Industrial Control Systems – ICS) gemäß der Purdue-Modellhierarchie werden in den Leitlinien Bedenken wie Prompt Injektion, Datenvergiftung und Datenerfassung aufgezählt. Zudem wird auf „KI-Drift” hingewiesen, bei dem Modelle weniger genau werden, wenn neue Daten von den Trainingsdaten abweichen.
Die Autoren befürchten zudem, dass KI möglicherweise nicht die erforderlichen Hinweise liefert, um Fehler zu diagnostizieren. Darüber hinaus sei es schwierig, die Compliance-Anforderungen zu erfüllen, da sich KI rasch weiterentwickelt, so die Behörden. Zusätzlich weist das Paper darauf hin, dass es zu einem De-Skilling-Effekt beim Menschen kommt, verursacht durch eine schleichende Überabhängigkeit von KI. Ebenso könnten KI-Warnmeldungen zu Ablenkung und kognitiver Überlastung bei den Mitarbeitern führen.
