KI im Vergaberecht – Potentiale und Risiken im Vergleich

Bevor wir über den Einsatz sowie den Nutzen von Künstlicher Intelligenz in Vergabeverfahren sprechen können, sollte geklärt werden, was Künstliche Intelligenz eigentlich ist. Es gibt derzeit keine einheitliche Definition, da der Begriff der Intelligenz bisher nicht klar umschrieben werden kann. Dennoch lässt sich aus den verschiedenen Ansätzen ableiten, dass KI Technologien und Software-Anwendungen beschreibt, die mithilfe geeigneter Techniken und Methoden menschliches Denken und Handeln reproduzieren beziehungsweise nachahmen. Dabei werden Ansätze des Menschen zur Problemlösung sowie zur Entscheidungsfindung imitiert und auf bestehende Situationen angewendet. Für diese KI-basierten Prozesse werden vorab Ziele definiert, auf deren Grundlage die Technologie anschließend Erkenntnisse liefern oder Vorhersagen sowie Entscheidungen treffen soll. Dies erfordert große Datenmengen, aus denen KI lernen und sich eigenständig weiterentwickeln kann.

Künstliche Intelligenz kann im Vergaberecht eine erhebliche Entlastung bieten. Es können zum Beispiel Chatbots eingesetzt werden, die automatisch auf vergaberechtstypische Standardfragen antworten und somit menschliche Bearbeiter:innen entlasten. Außerdem werden KI-Systeme eingesetzt, die auf Basis vorhandener Daten und festgelegter Ziele Angebote hinsichtlich verschiedener Kriterien auswerten. Dabei kann KI auf mehreren Stufen des Vergabeverfahrens als Unterstützung dienen. Die Bedeutung der Mitarbeitenden nimmt dadurch jedoch keinesfalls ab. Diese sollen sich stattdessen auf komplexere Tätigkeiten und Prüfungen konzentrieren, die ein tieferes Verständnis sowie ein höheres Kompetenzniveau erfordern. Dadurch werden auch die persönlichen Kompetenzen der Mitarbeitenden im Vergabeverfahren, wie zum Beispiel Empathie und Kommunikationsfähigkeiten, ausgeweitet. Zur Strukturierung des KI-Einsatzes müssen die Systeme jedoch auch regelmäßig trainiert werden. Dafür sind Daten erforderlich, die in der Regel aus öffentlichen Datenquellen wie der Tender Electronic Daily (TED) stammen. Diese Inhalte müssen ausreichend gesichert und die Aktualität derer gewährleistet sein, um den gewünschten Erfolg des KI-Trainings zu erzielen. Auf diese Weise lernt die KI mit den Anforderungen und Daten des Vergaberechts umzugehen und kann darauf programmiert werden, die gesetzlichen Vorschriften einzuhalten. Letztlich ist die menschliche Interpretation jedoch der entscheidende Faktor bei der Auftragsvergabe.

Der Einsatz von Künstlicher Intelligenz im Vergaberecht kann auf fast jeder Stufe des Vergabeverfahrens erfolgen und verändert somit einen Großteil der bisherigen Abläufe, indem diese effizienter gestaltet sowie vereinfacht werden. Doch in welchen konkreten Schritten kann KI implementiert werden und wie verändern sich die dadurch die traditionellen Prozesse?

Markterkundung:

Die Markterkundung findet sowohl auf der Auftraggeberseite als auch auf Seite der Bietenden statt. Auf der einen Seite können Auftraggeber den Markt erforschen und nach bestehenden Produkten und Lösungen suchen, wenn Sie eine neue Leistung benötigen. Auch wenn öffentliche Auftraggeber dazu verpflichtet sind Aufträge öffentlich auszuschreiben, erhalten diese durch eine vorherige Markterkundung bereits einen Überblick über die aktuelle Situation am Markt und können darauf basierend eine Leistungsbeschreibung erstellen. KI ermöglicht es diese Kenntnisse schneller und umfangreicher zu gewinnen als durch eigenständige Recherchen. Außerdem werden einzelne Unternehmen dadurch nicht bevorzugt, da die Suche mit KI zu objektiven Ergebnissen führt und nicht durch persönliche Interessen der Auftraggeberseite beeinflusst wird.

Auf der anderen Seite müssen auch Bietende den Markt beobachten und ihre Konkurrenz im Rahmen der Auftragssuche analysieren, um sich einen Wettbewerbsvorteil zu verschaffen. Je früher man auf neue Ausschreibungen aufmerksam wird, umso stärker kann man sich auf eine qualitative Angebotserstellung konzentrieren. KI kann dabei bestehende Muster und Trends in den Verhaltensweisen der Konkurrenz aufdecken und Unternehmen die Möglichkeit bieten ihre eigenen Angebote dementsprechend zu optimieren. Mithilfe der eingegebenen Daten (zum Beispiel konkrete Suchanfragen) kann die Auftragssuche personalisiert erfolgen und Bietende investieren weniger Zeit in unrelevante Projekte.

Leistungsbeschreibungen:

Ein weiteres Einsatzgebiet der KI im Vergaberecht sind die Leistungsbeschreibungen. Diese sind in der Regel individuell und auf einzelne Fälle bezogen. Durch Textgenerierungsalgorithmen kann KI jedoch teilweise Leistungsbeschreibungen erstellen, wenn zuvor die Anforderungen detailgetreu definiert und dokumentiert werden. So werden Interpretationsspielräume minimiert, die im späteren Verlauf des Verfahrens zu Komplikationen führen würden. Dennoch sollte KI dabei stets von einer oder einem menschlichen Mitarbeitenden kontrolliert beziehungsweise unterstützt werden. Darüber hinaus ermöglicht der Einsatz Künstlicher Intelligenz, dass Lücken oder Widersprüche in den Leistungsverzeichnissen aufgedeckt und logische oder grammatikalische Fehler korrigiert werden.

Angebotsauswertung:

Nachdem alle Angebote eingegangen sind, müssen die Vergabestellen diese auf ihre Eignung hin prüfen und anschließend bewerten. Die Dokumente werden demnach in Bezug auf bestimmte Eigenschaften überprüft und insbesondere auf formale Kriterien untersucht. Die qualitativen Aspekte der Angebotsbewertung sollten jedoch weiterhin durch menschliche Bearbeiter:innen bewertet werden, um eine ausreichende Sicherheit über die Technologie hinaus zu gewährleisten.

Angebotsöffnung & Zuschlag:

Aufgrund des Vier-Augen-Prinzips bei der Angebotsöffnung gemäß § 55 Abs. 2 VgV ist der Einsatz der KI in diesem Schritt des Vergabeverfahrens eher beschränkt. Jedoch kann Künstliche Intelligenz in Vergabeverfahren wertvolle Dokumentationsarbeit leisten und die Sicherheit zusätzlich erhöhen. Auch beim Zuschlag müssen nach § 58 Abs. 5 VgV grundsätzlich mindestens zwei Vertreter:innen des öffentlichen Auftraggebers oder der öffentlichen Auftraggeberin mitwirken. Mithilfe von KI könnte die Angebotsauswahl allerdings beschleunigt werden, da geeignete Anbieter:innen durch intelligente Such- und Matching-Algorithmen der KI schneller identifiziert werden können.

eVergabe:

Die eVergabe hat sich in den letzten Jahren bereits erheblich weiterentwickelt und konnte somit den Grundstein für zukünftige KI-Anwendungen legen. Dennoch gibt es noch Weiterentwicklungsmöglichkeiten, um den Einsatz der KI zu fördern und die Arbeit von Vergabestellen und Bietenden zu erleichtern. So kann dem Bieter oder der Bieterin beispielsweise durch KI automatisch angezeigt werden, ob alle notwendigen Formblätter bei der eVergabe eingereicht wurden, wodurch wiederum die Anzahl der Nachforderungen verringert wird. In den Bereichen der Verteidigung, Sicherheit und den Rechtsmitteln muss die Digitalisierung allerdings noch weiter ausgebaut werden, um das Vergabeverfahren wesentlich zu entlasten.

Kommunikation:

Die Kommunikation ist im Vergaberecht häufig sehr umfangreich und interpretationswürdig, wodurch schnell Fehler und Missverständnisse entstehen können. Es gibt zahlreiche Schnittstellen zwischen den beteiligten Akteuren, durch die die Prozesse komplexer werden. KI kann dabei helfen, die stark formalisierte Kommunikation zwischen Bietenden und den Vergabestellen zu vereinfachen. So können beispielsweise gängige Bieterfragen automatisch beantwortet und Informationen unmittelbar bereitgestellt werden, damit sich Mitarbeitende auf andere Kerntätigkeiten konzentrieren können.

Entscheidungsfindung:

Im Rahmen von Vergabeverfahren müssen unzählige Entscheidungen getroffen werden, die sich auf den weiteren Ablauf auswirken. Dabei wird empfohlen, diesen Prozess durch den Einsatz von KI zu erleichtern. Künstliche Intelligenz soll die Mitarbeitenden nicht ersetzen, sondern entlasten, indem sie beispielsweise Vorhersagen zu Lieferzeiten oder Angebotspreisen mittels Datenanalyse trifft. Auf diese Weise kann sich der oder die Bearbeiter:in auf andere Elemente konzentrieren, die wesentlichen Entscheidungen werden jedoch weiterhin von ihnen getroffen. Außerdem ermöglichen Vorhersagen zu Risiken durch KI ebenfalls proaktive Entscheidungen der Mitarbeitenden, um diese Gefahren zu umgehen.

Digitale Innovationen können Beschaffungsprozesse erheblich verändern und sowohl Auftraggeber:innen als auch potentiellen Auftragnehmer:innen die Möglichkeit bieten, ihre Aufgaben beziehungsweise Tätigkeiten effizienter zu gestalten.

Zum einen können Bieter:innen durch KI schneller an relevante Daten oder Informationen zu neuen Ausschreibungen gelangen und die Recherche automatisieren. Auf diese Weise wird nicht nur die Effizienz, sondern zugleich die Wettbewerbsfähigkeit des Unternehmens gesteigert. Mithilfe verschiedener Suchalgorithmen in den KI-Systemen werden die vollständigen Daten analysiert und die Suchergebnisse nach individuellen Kriterien gefiltert. Dabei kann Künstliche Intelligenz außerdem Unvollständigkeiten in den Ausschreibungsunterlagen aufdecken oder die Projekte hinsichtlich verschiedener Muster wie Fristen und Anforderungen kategorisieren.

Zum anderen führt die Fähigkeit von KI zur Sammlung, Analyse und Bewertung komplexer sowie großer Datenmengen häufig zu schnelleren Abläufen auf mehreren Ebenen des Vergabeverfahrens. KI ist in der Lage diese Daten, zum Beispiel in Form von Angeboten, präziser und schneller auszuwerten als menschliche Bearbeiter:innen, wodurch viel Zeit beziehungsweise Aufwand gespart werden kann. Die verschiedenen Techniken der KI wie das Maschinelle Lernen ermöglichen es, dass KI-Systeme Muster und Trends in den vorhandenen Datensätzen erkennen und diese zum Beispiel für die Bewertung der Angebote nutzen. Außerdem können dadurch insbesondere repetitive Aufgaben automatisiert ablaufen, wodurch ebenfalls Zeit gespart werden kann. Zu diesen Routineaufgaben gehören beispielsweise die Überprüfung von Dokumenten, die Bereitstellung der Ausschreibungsunterlagen oder auch die Beantwortung gängiger Bieterfragen. Diese Prozesse finden auf Basis zuvor definierter Ziele sowie dem Einsatz von Lerntechniken der KI statt und sind somit weitestgehend objektiv beziehungsweise rational. Dadurch werden menschliche Fehler oder subjektive Bewertungen reduziert, die sonst zu Verzerrungen in den Ergebnissen führen können. Auf diese Weise erhöht sich die Transparenz in Vergabeverfahren, da die Abläufe und Ergebnisse in der Regel objektiv und neutral ablaufen. Zudem ermöglicht KI eine automatische Überwachung dieser Abläufe sowie eine direkte Dokumentation der einzelnen Schritte.

Darüber hinaus können durch die Identifikation von Trends auch unethische oder betrügerische Muster aufgedeckt werden, die auf Korruption oder Betrug hindeuten. So erhöht sich die Chancengleichheit für Teilnehmende des Vergabeverfahrens und betroffene Unternehmen können frühzeitig von der Vergabe ausgeschlossen werden. Zuletzt beschleunigt der KI-Einsatz auch den gesamten Vergabeprozess und kann somit beispielsweise den Zuschlag beziehungsweise die Auswahl des oder der Bietenden vereinfachen.

Neben den zahlreichen Chancen der KI im Vergaberecht gibt es jedoch auch Herausforderungen, denen Vergabestellen und Bietende gegenüberstehen. Einen wesentlichen Aspekt bildet dabei der Datenschutz beziehungsweise die Datensicherheit. Zur Analyse und Bewertung von Informationen benötigen KI-Systeme sensible Daten von den Teilnehmenden im Vergabeverfahren. Diese Daten dürfen nicht missbraucht werden und müssen demnach ausreichend vor der Nutzung durch Dritte geschützt werden. Außerdem wirkt sich der Einsatz von KI auch auf die Transparenz aus. Während ein Vorteil der KI die gestiegene Transparenz aufgrund von objektiv laufenden Prozessen und Ergebnissen des Vergabeverfahrens ist, herrscht bei den KI-Systemen selbst teilweise ein Mangel an Transparenz. Künstliche Intelligenz wird in der Regel als ein Black-Box-Modell beschrieben, bei dem nicht immer ersichtlich ist, welche Schritte jeweils durchgeführt wurden. Dementsprechend ist es notwendig, nicht nur neutrale und sachliche Ergebnisse durch KI zu erzielen, sondern die Schritte auch nachvollziehbar zu gestalten, um das Vertrauen zu stärken. Darüber hinaus spielt die Haftungsfrage eine entscheidende Rolle in KI-basierten Vergabeverfahren. Wer ist für die Ergebnisse und Informationen der KI verantwortlich? Kann KI selbst haftbar gemacht werden? Diese Frage ist bei den meisten KI-Techniken wie ChatGPT heute noch ungeklärt, weshalb Expert:innen einen verantwortungsvollen Umgang mit KI empfehlen. Das bedeutet, dass KI den Menschen lediglich in seinen Tätigkeiten unterstützen, jedoch nicht ersetzen sollte, um ausreichend Sicherheit bei der Vergabe zu gewährleisten.

In Europa

Im März 2024 wurde in Europa der weltweit erste gesetzliche Rahmen (AI Act) für den Einsatz von Künstlicher Intelligenz erlassen. Dieser gilt zwar nicht ausschließlich für das Vergaberecht, aber dient als allgemeines Regelwerk, das die Innovationsfreundlichkeit fördern und die Grundrechte aller Betroffenen respektieren soll. In dieser KI-Verordnung haben die Mitgliedstaaten der Europäischen Union KI in unterschiedliche Risikostufen differenziert. Demnach sind KI-Systeme, die zur Gesichts- oder Emotionserkennung sowie für Sozialkreditsysteme und Verhaltensmanipulation genutzt werden strengstens verboten. Chatbots weisen beispielsweise kein hohes oder unannehmbares Risiko auf und können demnach unter Berücksichtigung bestimmter Transparenzpflichten eingesetzt werden. Dazu gehört beispielsweise die Offenlegung des KI-Einsatzes. In Bezug auf das Vergaberecht können Chatbots oder ähnliche KI-Systeme, die nicht zu den Hochrisiko-Tools gehören somit zukünftig eingesetzt werden. Geplant ist, dass die KI-Verordnung einer letzten Überprüfung unterzogen und voraussichtlich noch vor Ende der Wahlperiode 2025 angenommen wird. 20 Tage nach der Veröffentlichung im Amtsblatt der EU tritt die Verordnung schließlich in Kraft und ist dann 24 Monate nach dem Inkrafttreten uneingeschränkt anwendbar.

In Deutschland

In Deutschland gibt es keine Regulierungen, die den Einsatz von KI in Vergabeverfahren einschränken und sich von den bestehenden Vorschriften der EU zur KI-Verordnung unterscheiden. Das Bundesministerium für Wirtschaft und Klimaschutz erwartet darüber hinaus zukünftig keine wesentlichen Einschränkungen des Einsatzes von KI im Vergaberecht. Stattdessen wird vermutet, dass die Zahl der Förderungen von KI-Technologien weiter ausgebaut wird. Dennoch bleibt der Auftraggeber oder die Auftraggeberin die verantwortliche Person des Vergabeverfahrens und darf nach derzeitigen Regelungen des deutschen Vergaberechts nicht vollständig durch KI-Systeme ersetzt werden.

Künstliche Intelligenz führt zu unzähligen Chancen und Herausforderungen im Vergaberecht. Während einerseits Fehler reduziert, Aufgaben automatisiert oder Prozesse beschleunigt werden können, sind Datenschutzaspekte, Haftungsfragen und die Undurchsichtigkeit der KI-Systeme Hindernisse bei der erfolgreichen KI-Implementierung im Vergaberecht. Dabei stellt die Politik einen besonders wichtigen Einflussfaktor dar. Die Regulierungen und Vorschriften zum KI-Einsatz können die Digitalisierung des Vergaberechts entweder fördern oder bremsen. So ist es beispielsweise die Aufgabe des Gesetzgebers oder der Gesetzgeberin, die typischen Regelungen wie das Vier-Augen-Prinzip aufzulockern und somit einen Weg für die erfolgreiche KI-Implementierung zu eröffnen. Auch die Geheimhaltungsinteressen beziehungsweise der Datenschutz stehen dem nicht zwangsläufig entgegen. Die Bearbeiter:innen haben die Aufgabe, die Interessen und Rechte der Bietenden zu erkennen und dahingehend notwendige Sicherheitsvorkehrungen in den KI-Systemen zu treffen. Künstliche Intelligenz stellt dabei keineswegs einen Ersatz der menschlichen Mitarbeitenden dar, sondern dient als Unterstützung in den einzelnen Prozessen des Vergaberechts. Vergabestellen und Gesetzesgeber:innen müssen demnach mehr Veränderungsbereitschaft gegenüber KI zeigen, um die Entwicklung weiter zu fördern.