Was uns in der Zukunft erwartet

Ein Auszug aus einem Blog-Beitrag von Colin Presley. Colin Presley ist Vice President bei Seagate und beschäftigt sich im Bereich „Customer Success“. Der regelmäßige Austausch mit Betreibern globaler Clouds und Rechenzentren hat Colin fundierte Einblicke in die Entwicklung von Infrastrukturanforderungen während des Übergangs der KI vom Experimentierstadium in den Produktionsbetrieb vermittelt.

 

„…Lange Zeit basierte die Infrastrukturplanung auf Stabilität: Unternehmen wählten Plattformen aus, qualifizierten Technologien, standardisierten Architekturen und skalierten diese anschließend konsistent und effizient. Das ändert sich, da immer mehr KI-Initiativen die Pilotphase verlassen und in den Produktivbetrieb übergehen. Die Teams unterstützen heute eine wachsende Vielfalt an Workloads, Bereitstellungsumgebungen und Geschäftsanforderungen und erfüllen gleichzeitig die Anforderungen an Governance, Compliance und Souveränität. Einige KI-Anwendungen laufen in öffentlichen Clouds, während andere lokal oder am Netzwerkrand (Edge) verbleiben.

 

Gleichzeitig entstehen durch den rasanten technologischen Fortschritt mehr Modelle und Bereitstellungsoptionen als je zuvor. Bei Infrastrukturentscheidungen geht es immer weniger darum, eine einzige Standardarchitektur festzulegen, sondern vielmehr darum, die nötige Flexibilität für Anpassungen zu bewahren. Modelle werden innerhalb von KI-Workflows immer austauschbarer. Unternehmen können verschiedene Aufgaben je nach Kosten, Leistung oder Geschäftsanforderungen unterschiedlichen Modellen zuweisen. Leistungsfähige KI-Modelle kommen in immer mehr Umgebungen zum Einsatz – von Hyperscale-Infrastrukturen bis zu lokalen Geräten. Infrastrukturanbieter planen ebenfalls Rechnerarchitekturen, die modularer und austauschbarer sind.

 

All dies deutet auf einen umfassenderen Wandel hin: Die KI-Infrastruktur wird dynamischer, Infrastrukturentscheidungen richten sich zunehmend nach den jeweiligen Workloads. In vielen Fällen liegt der Grund dafür in den Daten….“

 

Warum beschäftigt sich ein Speicherhersteller mit diesem Thema? Eine KI benötigt Daten – und zwar viele, sehr viele Daten. Entweder dient diese Datenbasis als „Gehirn“ für die KI oder sie liegen beispielsweise innerhalb eines Unternehmens verteilt gespeichert vor. Die KI kann auf diese Daten zugreifen, um Inhalte von Dokumenten zu analysieren, zusammenzufassen oder um eine eigene Wissensdatenbank zu ergänzen und so den Support zu unterstützen – und mehr noch. Jedenfalls erfordert die Lagerung dieser Daten erhebliche Speicherkapazitäten, die idealerweise langlebig und schnell sein sollten.

 

Kennt ihr schon das Synology-Tool „Deep Search“? Falls nicht: Was der Name verspricht, kann es auch. Es handelt sich um eine Anwendung für eine sehr umfangreiche oder tiefgehende Suche. Deshalb das Wort „Deep“. Im Kontext dieses Blogartikels hat es dann natürlich mit Künstlicher Intelligenz zu tun.

 

„Deep Search“ ist eine KI-Anwendung, die unsere Daten durchsucht, um Dokumente zu erfassen. Die KI findet auf Anfrage sogar Dokumente mit einem ganz bestimmten Inhalt auf dem System. Die Suche umfasst dabei nicht nur Text, sondern auch Bilder und Diagramme. Damit übertrifft sie die KI-Suche auf den Apple-Systemen mit dem aktuellen macOS.

 

Bilder sind letztlich Fotos. Daher ist es naheliegend, dass die künstliche Intelligenz die Inhalte von Fotos analysieren kann. Zum Beispiel kann man nach allen gespeicherten Fotos mit Hasen suchen. Ebenso kann die KI nach Personen in den Fotos suchen. Theoretisch ist es sogar möglich, die Namen der gesuchten Personen direkt für die Suche zu verwenden. Natürlich müssen dafür die entsprechenden Informationen der KI zur Verfügung gestellt werden.

 

Ihr habt es vielleicht schon vermutet – „Deep Search“ ist nicht nur ein Tool für Unternehmen. Es handelt sich um ein normales Programm, das für eine einmalige Zahlung von 50 US-Dollar bei Synology erhältlich ist. Das Programm beinhaltet bereits die KI und wird lokal auf dem PC ausgeführt, sofern dieser die Systemanforderungen erfüllt. Bei den Systemanforderungen sind Apple Anwenderinnen und Anwender klar im Vorteil.

 

Diese Synology KI-Suche beschränkt sich nicht nur auf den PC. Damit der Bogen zurück zu Seagate: Das Unternehmen bietet neue „One Touch“-Modelle an. Es handelt sich dabei um kleine externe Speicherlaufwerke mit großer Kapazität. Es gibt ein kompaktes „Portable“-Modell, das zusätzlich die Daten verschlüsselt speichert, sowie ein großes Desktop-Modell, das bis zu 24 Terabyte speichern kann – allerdings zu einem entsprechenden Preis. Alternativ stehen „Expansion“-Modelle mit weniger Funktionen und ohne spezielleren Fokus auf das Design zur Verfügung, die sogar bis zu 30 Terabyte Kapazität bieten.

 

Jedenfalls bekommt man beim „Portable“-Modell eine Testversion vom „Deep Search“ kostenlos dazu. Nach Ablauf von 30 Tagen muss man es für eine weitere Nutzung von Synology erwerben. Übrigens benötigen die „One Touch“-Laufwerke kein externes Netzteil, da sie über den USB-C-Anschluss mit Strom versorgt werden – vorausgesetzt, dieser ist kompatibel. Ein schlechtes Ende für den Absatz – deshalb noch folgende Information: Allerdings verfügen die meisten halbwegs modernen PC‘s über genau diesen benötigten USB-C-Anschluss mit 15 Watt-Ausgangsleistung.

 

Aktuell ist KI in fast allen Bereichen der IT präsent. Sie unterstützt als lokale Suchmaschine, in der Bildbearbeitung, bei der Entwicklung von Software und Datenbanken, im Office-Bereich und lässt sich über diverse Erweiterungen in Webbrowser integrieren. Wie lässt sich diese Entwicklung jedoch im Hinblick auf Sicherheit steuern, insbesondere in Unternehmen?

 

Zunächst stellt sich die Frage: Warum sollte man KI überhaupt kontrollieren?

 

Hier gibt es zum Beispiel finanzielle Gründe. Eine lokale KI verursacht zusätzliche Stromkosten, zudem entstehen Bereitstellungs- und Wartungskosten. Besonders der Stromverbrauch ist relevant, da KI-Systeme – je nach Nutzung – einen hohen Energiebedarf aufweisen. Je mehr Nutzer auf eine KI zugreifen, desto höher wird der Verbrauch. Auch bei Cloud-KI fallen Bereitstellungs- und Wartungskosten an, hinzu kommen Abonnements, die eine Chat-KI erst zu einer echten Unterstützung machen. Das sind einige Gründe für eine Kontrolle.

 

Ein weiterer Grund ist die Sicherheit. Hierbei beziehe ich mich nicht einmal auf die Vorfälle bei OpenAI und Anthropic, da es sich dabei um spezielle Konfigurationen handelte. Angenommen, ein Mitarbeiter in einem Unternehmen installiert in seinem Webbrowser eine Erweiterung, die die Berechtigung besitzt, alle Daten aller geladenen Webseiten einzulesen. Warum besitzt diese Erweiterung solche Rechte? Weil die Daten an einen KI-Endpunkt in der Cloud gesendet und dort auf eine oder andere Weise verarbeitet werden.

 

Jetzt haben wir diese Erweiterung, die alle Daten einliest und versendet. Juhu! Als Nächstes bräuchte es nur noch einen Hacker oder einen Virus, der eine Sicherheitslücke ausnutzt oder sogar die Erweiterung selbst entwickelt und manipuliert hat. Das Resultat wäre: Alle Daten – inklusive der Anmeldung für die Cloud-KI – könnten mitgelesen werden. Noch schlimmer wird es, wenn über die Erweiterung eine Ransomware auf dem lokalen System installiert werden würde. Da wäre es doch besser gewesen, die Installation der Erweiterung vorher zu prüfen.

 

Ein weiteres Beispiel, das auch lokale KI-Installationen betrifft, ist das „Prompt-Engineering“. Hier wird eine KI im Anwendungsumfeld durch gezielte Eingaben gesteuert – diese Eingaben nennt man „Prompts“. Manchmal gibt es sogar spezielle Eingabefelder („Prompt“), über die man direkt mit der KI interagieren kann. Jetzt sollten allerdings die Alarmglocken schrillen: Abhängig von den zur Verfügung stehenden Tools und Werkzeugen, die einer KI für ihre Aufgaben bereitgestellt werden, können über gezielte Befehle erhebliche Schäden verursacht werden. Siehe die Vorfälle bei „OpenAI“ und „Anthropic“.

 

Aber selbst wenn einer KI keine Tools zur Verfügung stehen, kann man möglicherweise trotzdem auf Daten zugreifen, die die KI gerade verarbeitet oder verarbeitet hat. Wie ist das möglich? Indem man mit der KI interagiert. Dies wäre der einfachste Ansatz. Eine Steigerung wäre, die KI dazu zu bringen, bestimmte interne Programmierbefehle auszuführen, um etwa den Zugriff auf verknüpfte Datenbanken zu ermöglichen. Die KI würde diese Befehle bei einem Angriff nicht bewusst ausführen, sondern speichert sie auf eine Weise, die später das Auslesen von Daten ermöglicht. Hierfür gibt es mittlerweile sogar einen speziellen Begriff: „Prompt Injection“. Als Gegenmaßnahme werden KI-Systeme so trainiert, dass sie solche Angriffe erkennen oder zumindest die Daten anders verarbeiten, da es nicht zwingend ein Angriff sein muss. Und letztendlich liegt es auch in der Verantwortung der Anwendungsentwickler, die Dateneingabe zu prüfen – etwa sollte eine KI, die nur im technischen Support unterstützt, keine Eingaben oder Ausgaben in Skriptsprachen akzeptieren.

 

Das sind die Herausforderungen der Zukunft und der Gegenwart: Ohne Kontrolle kann die Situation schnell außer Kontrolle geraten. „WithSecure“ ist beispielsweise ein Anbieter, der bereits die Erfassung von KI- Programmen in seine Sicherheitslösungen für Unternehmen integriert hat. Allerdings kostet dies viel Geld und setzt bisher ein Microsoft-Netzwerk voraus. „WithSecure“ nutzt übrigens selber KI, um Sicherheitslücken in Unternehmen zu erkennen. Ja, das kostet zwar zusätzlich Geld, aber es funktioniert scheinbar, wie aus der Demo ersichtlich war.

 

Zum Abschluss noch ein Blick auf die neuen Dell-Notebooks mit dem neuen Google Betriebssystem und AI-Unterstützung. Dell hat seine neuen Geräte der „XPS“-Reihe veröffentlicht. Das Display der Notebooks misst 13,4 Zoll und ist touchfähig. Mit dieser Größe ist es perfekt für einen Rucksack. Allerdings ist es nicht wasserfest, dafür ist es etwas robuster (140G Stoßfestigkeit; zum Vergleich: Spezialmodelle für den Baustellenbereich erreichen bis zu 300G). Leider liegen die Preise auch bei Dell etwas höher- Das Einstiegsmodell bekommt man ab 1.449 €. Dafür erhält man ein sehr schlankes, leichtes Notebook mit Aluminiumgehäuse, wahrscheinlich hochwertiger Technik und das Dell „Care“-Paket. Beim Aluminiumgehäuse sollte man beachten, dass im Rucksack kein zu hoher Druck, ganz speziell beim Display- Bereich, auf das Gerät ausgeübt wird. Eine gute „Neopren“-Hülle oder ein gutes Notebookfach im Rucksack sind daher Pflicht. Außerdem würde es Stöße zusätzlich dämpfen. Aktuell würde ich das Dell Notebook dem MacBook Air vorziehen.

 

PS: Verwende für den kapazitiven Fingerabdrucksensor, falls du ihn am Notebook verwenden willst, eher einen weniger häufig genutzten Finger, z. B. das kleine Fingerchen. Einfach mal testen, welche Finger häufiger einen Abdruck auf dem Gerät hinterlassen. Den Sensor und das Notebook regelmäßig mit einem weichen Tuch sanft abwischen. Dies gilt auch für die Mehrzahl der Smartphones und Tablets – auch wenn der Daumen bei diesen Geräten nicht zwangsläufig eine schlechte Wahl ist. Ein paar Smartphone-Spitzenmodelle, die mit dem „Pro“ und nicht von Apple, verwenden Ultraschall-Sensoren für die Analyse des Fingerabdruck. Das ist sicherer, aber kann manchmal zu Problemen in der Anmeldung führen (Wer hat da wieder mit den Fingerchen gegessen?…).

Infos, News und was sonst noch bleibt

 

In den kommenden Tagen, wahrscheinlich spätestens in zwei Wochen, könnt ihr die neue Version von meiner "Chatbridge" vom Docker Hub herunterladen. Die aktuelle Entwicklungsstufe der Anwendung umfasst nun „Tools“ für die KI. Zudem wurde ein Fehler in der Kommunikation mit der KI behoben. Den Link zum Docker Hub findet ihr auf xcomweb.de.