Ein neues KI-Orchestrierungs-Startup von den Gründern des litauischen Unicorn Nord Security, das Unternehmen dabei helfen soll, ihre KI-Projekte in die Produktion zu bringen, konzentriert sich zunächst darauf, mehr Transparenz, Sicherheit und Anpassungsfähigkeit bei großen Sprachmodellen (LLMs) zu bieten.
Nexos.ai, so der Name des Startups, ist das Werk von Tomas Okmanas und Eimantas Sabaliauskas, die eine der bekanntesten Marken nicht nur in Litauen, sondern in ganz Europa geschaffen haben. Nord Security, bekannt für sein Flaggschiff-VPN-Produkt NordVPN, konnte sich in den ersten 10 Jahren selbst finanzieren, bevor es 2022 eine satte Investition von 100 Millionen US-Dollar bei einer Bewertung von 1,6 Milliarden US-Dollar erhielt (bei einer späteren Kapitalbeschaffung wurde die Bewertung auf 3 Milliarden US-Dollar angehoben).
Ihr neues Unternehmen verlässt heute die Geheimhaltung und erhält 8 Millionen US-Dollar von einer Vielzahl namhafter Investoren, darunter der Hauptinvestor Index Ventures, der zum ersten Mal in Litauen investiert hat.
„Wir kennen Tomas und die Arbeit, die er seit vielen Jahren leistet, also als wir hörten, dass er ein neues Unternehmen im KI-Bereich gründet und endlich bereit war, Risikokapital in diesem [frühen] Stadium anzunehmen, waren wir sehr begeistert“, sagte Hannah Seal, Partnerin bei Index Ventures, gegenüber TechCrunch.
Zu den weiteren namhaften Investoren gehören Creandum und Dig Ventures, und prominente Engel wie die CEOs von Datadog, Klarna, Supercell und Wix haben ebenfalls teilgenommen.
Kapitalisierung eines Katalysators
Derzeit müssen Teams, die ihre KI in die Produktion bringen wollen, zahlreiche Tools verbinden, was wahrscheinlich die Rekrutierung und den Aufbau von Teams mit den erforderlichen Fähigkeiten erfordert. Hier möchte Nexos.ai einspringen.
„Ich habe festgestellt, dass eine große Lücke zwischen dem Betrieb von KI als Pilotprojekten und der Umsetzung in die Produktion besteht“, sagte Okmanas in einem Interview mit TechCrunch. „Wenn Sie KI in Ihrem Labor testen, kann es funktionieren und nützlich sein, aber wenn Sie es in die Produktion bringen wollen, insbesondere in Unternehmen, wie stellen Sie eine hohe Verfügbarkeit sicher? Wie stellen Sie die Sicherheit sicher? Wie verwalten Sie die Kosten?“
Nord Security gibt es seit mehr als einem Jahrzehnt, aber vor fünf Jahren wurde es in ein Dachunternehmen namens Tesonet eingegliedert, einem Inkubator mit mehr als zwei Dutzend Unternehmen in seinem Portfolio. Eines davon ist das Webhosting-Unternehmen Hostinger, das kürzlich KI-gestützte Intelligenz in seine Website-Bauwerkzeuge integriert hat. Okmanas, Mitglied des Vorstands und Aktionär von Hostinger, sagte, dass einige der Probleme, mit denen sie konfrontiert waren, als Katalysator für das dienten, was schließlich Nexos.ai werden würde.
„Wir wollten KI in unseren Website-Baukasten integrieren. Also haben wir OpenAI eingeschaltet, wir begannen es zu testen und es in die Produktion zu bringen“, sagte Okmanas. „Im August hatten wir eine Rechnung von 150.000 US-Dollar. Wofür? Warum war es so teuer? Es gab keine Transparenz.“
Und als OpenAI einige Male ausfiel, war Okmanas überzeugt, dass etwas getan werden musste, um es einfacher zu machen, das „zunehmend komplexe Ökosystem von KI-Modellen“, das Unternehmen möglicherweise benötigen, bereitzustellen, zu verwalten und zu optimieren.
Über eine einfache API (Schnittstelle) können Kunden auf mehr als 200 KI-Modelle zugreifen, von großen Namen wie OpenAI und Anthropic bis hin zu kleineren, spezialisierten LLMs. Die Idee ist, dass ein Unternehmen im Falle eines Ausfalls von OpenAI vorübergehend (und automatisch) auf einen anderen Anbieter umschalten kann, ohne den Ablauf zu unterbrechen. Oder wenn die Kosten für den Zugriff auf ein bestimmtes LLM aus irgendeinem Grund explodieren, kann ein Unternehmen zu einem anderen wechseln, um die Kosten niedrig zu halten.
Nexos.ai führt auch „intelligentes Caching“ hinzu - wenn eine bestimmte Frage von mehreren Benutzern wiederholt wird, kann das System auf seine eigene Datenbank zurückgreifen, anstatt weiterhin das LLM zu nutzen, was teuer werden kann.
Auf den Sicherheits- und Compliance-Fronten verhindert Nexos.ai auch, dass Personen private Daten an LLM-Anbieter senden, oder wenn ein Mitarbeiter ein Unternehmen verlässt, kann sein Zugriff sofort beendet werden.
Allerdings kommt man nicht um den Elefanten im Raum herum: Einer der Gründe, warum Unternehmen zögerlich sind, KI zu übernehmen, ist das heikle Thema der Datensicherheit - Unternehmen im Gesundheitswesen, Banken oder Versicherungsunternehmen können den LLM-Anbietern nicht einfach all ihre sensiblen Informationen anvertrauen. Es ist erwähnenswert, dass Hostinger selbst im Jahr 2019 von einem Datenleck betroffen war und auch NordVPN in der Vergangenheit gehackt wurde - die Art von Angriffen, mit denen alle Unternehmen heute konfrontiert sind.
Dies wirft die Frage auf, wie Nexos.ai mit solchen Daten umgeht, da es alles auf seiner eigenen Infrastruktur hostet. Okmanas sagte, dass das Unternehmen wahrscheinlich in Zukunft Selbsthosting anbieten wird und dass es bereits Integrationen mit den eigenen internen LLMs von Unternehmen unterstützt.
Es hat auch Schutzmechanismen implementiert, um zu erkennen, wann Daten, wie persönlich identifizierbare Informationen (PII), an sie gesendet werden - in solchen Fällen kann die Daten zurück zu den eigenen LLMs oder der Datenbank des Ursprungsunternehmens umgeleitet werden. Aber wenn eine Abfrage generisch ist, wie wenn ein Kunde einen KI-Agenten nach Details zu seinem Standort und den Öffnungszeiten fragt, wird die Abfrage auf der Nexos.ai-Seite bearbeitet.
Von der Idee zur Gründung
Von der Idee bis zur formellen Gründung dauerte es Nexos.ai rund sechs Wochen, und während die Geschwindigkeit der Sicherung der Finanzierung größtenteils auf die Reputation der Gründer zurückzuführen war, war ein großer Teil einfach der Zeitpunkt.
„Ich habe das Gefühl, dass wir endlich über den Hype der KI hinaus sind und jetzt die Anwendungen im echten Leben kommen“, fügte Seal hinzu. „Alle großen Unternehmen erkennen, dass dies wirklich bedeutungsvoll ist, und sie müssen KI in großem Umfang einführen. Jetzt ist die Zeit gekommen, dass die Infrastruktur mit den Modellen Schritt hält.“
Die Ausführungsgeschwindigkeit war jedoch im Wesentlichen auf die breitere organisatorische Struktur bei Tesonet zurückzuführen, die etwa 4.000 Mitarbeiter in ihrem Portfolio hat. Dies ermöglichte es Okmanas, schnell ein Team von ungefähr 30 Personen zusammenzustellen, die er kannte und denen er vertraute, um Vollzeit an Nexos.ai zu arbeiten.
„Wir haben diese Teams, die wirklich zusammenarbeiten können - sie arbeiten schon so viele Jahre zusammen, es ist nicht nötig, ihnen zu sagen, was zu tun ist“, sagte Okmanas. „Wir werden auch von außen einstellen, aber das dauert viel länger.“
Die Plattform von Nexos.ai soll bis Ende März starten, obwohl Okmanas sagte, dass sie bereits mit einer Reihe von „Beta-Kunden und Designpartnern“ zusammenarbeiten.
