Beschreibung
Die Ausschreibung dient der Beschaffung einer technischen Basis für KI-Lösungen, für die Integration in die internen und externen Prozesse der Bundesagentur für Arbeit. Damit sollen unter anderem Möglichkeiten der wissensbasierten Unterstützung im Kundenservice, der Unterstützung interner Prozesse, die Verbesserung der Analyse großer Datenbestände und die Möglichkeit der optimierten Nutzung von Suchfunktionen geschaffen werden. Für die Umsetzung dieser Anwendungsfälle wird ein skalierbares Produkt benötigt, das die Entwicklung und Integration von LLM (Large Language Model) - basierten Applikationen ermöglicht. Die Anforderung beinhaltet sowohl die Beschaffung geeigneter generativer Sprachmodelle als auch die Unterstützung für den (technischen) Betrieb dieser Modelle in den jeweils vorgesehenen Hosting-Umgebungen, insbesondere dem notwendigen Support. Maßgeblich ist hierbei auch die Einhaltung sämtlicher rechtlicher Vorgaben, insbesondere im Bereich des Datenschutzes, sowie die vollständige Erfüllung der hohen Anforderungen an die IT-Sicherheit.