StartseiteThemenDigitaler WandelSichere Künstliche Intelligenz: Erfolgreiches Jahr für das Exzellenznetzwerk ELSA

Sichere Künstliche Intelligenz: Erfolgreiches Jahr für das Exzellenznetzwerk ELSA

Berichterstattung weltweit

Das Exzellenznetzwerk ELSA (European Lighthouse on Secure and Safe AI) hat in seinem ersten Jahr wichtige Weichen gestellt, um die Europäische Union zu einem Leuchtturm sicherer und vertrauenswürdiger künstlicher Intelligenz zu machen. Das wachsende Netzwerk adressierte in allen Dimensionen die drängenden Fragen, die künstliche Intelligenz für die Gesellschaft bereithält.

Ein Thema, das viele Forschende im ELSA-Netzwerk intensiv beschäftigt hat und weiterhin beschäftigten wird, sind sogenannte Large Language Modelle. Mit Veröffentlichung von ChatGPT und anderen Chatbots, wurden sie der breiten Öffentlichkeit zugänglich. Die Veröffentlichung eines Papers zu kritischen Schwachstellen, die die Modelle manipulier- und angreifbar machen, hat unter anderem dazu geführt, dass das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) ein ausführliches Positionspapier zu dem Thema mit dem Titel "Große KI-Sprachmodelle - Chancen und Risiken für Industrie und Behörden" verfasste.

Es wurde zudem eine Joint Research Agenda verfasst, die aufzeigt, wie sie gemeinsam den Weg für den sicheren Einsatz künstlicher Intelligenz ebnen wollen. Das ELSA-Netzwerk verfolgt dabei einen grundlegenden, transparenten und interdisziplinären Ansatz. Die von ELSA im November veröffentlichte strategische Forschungsagenda gibt Interessierten eine Übersicht, wie ELSAs Arbeit an diesen Herausforderungen ganz konkret aussehen wird.

Um die von ELSA-Forschenden entwickelten Technologien und Methoden unter realen Bedingungen zu testen und ihre Anwendungsreife bewerten zu können, hat ELSA 2023 weiterhin eine Benchmarks-Plattform veröffentlicht. Das sorgt dafür, dass das Netzwerk messbare Fortschritte erzielt und immer wieder die Forschungsaktivitäten mit realen Bedürfnissen und Anwendungen verknüpft werden.

Im Mai hat ELSA zudem kleine und mittelständische Unternehmen sowie innovative Startups aufgerufen, sich um Förderung zu bewerben und zusammen mit ELSA-Forschenden an Methoden, Benchmarks und Softwarelösungen zu arbeiten und diese in die industrielle Anwendung zu bringen. Im Januar 2024 wird ELSA verkünden, welche jungen Unternehmen es sind, die mit ihren Vorschlägen im Industry Call überzeugen konnten.

Das Jahr 2023 zeigt, dass ELSA enormes Potential hat, die komplexen Herausforderungen moderner KI-Lösungen erfolgreich anzugehen.

Quelle: CISPA Helmholtz Center for Information Security via idw Nachrichten Redaktion: von Lynn Dinh, VDI Technologiezentrum GmbH Länder / Organisationen: EU Themen: Information u. Kommunikation Sicherheitsforschung sonstiges / Querschnittsaktivitäten

Weitere Informationen

Projektträger