Lakera ist eine KI-Sicherheitsplattform, die auf Entwickler ausgerichtet ist. Lakera gibt Entwicklern die weltweit größte KI-Bedrohungsdatenbank an die Hand, um die sichere Entwicklung von KI-Produkten zu beschleunigen. Lakera funktioniert mit jedem KI-Modell und jeder Modalität und bietet sofortige Sicherheit für KI-Anwendungen auf Unternehmensniveau. Mit Lakera können Entwickler mit Überzeugung entwickeln und das volle Potenzial von KI-Technologie ausschöpfen.
Die rasche Einführung von Large Language Models (LLMs) hat eine Vielzahl von Sicherheitsbedenken aufgeworfen, die sofortige Aufmerksamkeit erfordern. Probleme wie Prompt-Injection-Angriffe, Datenlecks, Phishing-Versuche, Halluzinationen, toxische Sprachausgaben und vieles mehr haben sich als gewaltige Bedrohungen herausgestellt, die Unternehmen, die sich auf LLMs verlassen, in Gefahr bringen.
Team von Niederer Kraft Frey
Das NKF-Team wurde von Corporate/M&A-Partner Philip Spoerlé geleitet und arbeitete mit Associate Benedikt Hadorn (Corporate/M&A), Counsel Janine Reudt-Demont (IT) und Junior Associate Peter-Conradin Schreiber (Corporate/M&A) zusammen.
Stimmen zur Transaktion
Mateo Rojas-Carulla, Mitbegründer und CPO von Lakera, erklärte: «Die Zusammenarbeit mit Cohere und das Red-Teaming ihres Modells haben uns einzigartige Einblicke in die komplizierte Natur von LLMs gewährt. Die Erforschung neuartiger und fantasievoller Methoden, um das Modell zu knacken, war sowohl eine Herausforderung als auch… Spaß. Das Red-Teaming bietet eine wertvolle Gelegenheit, sich in die Lage potenzieller Angreifer zu versetzen, die nun LLMs mit natürlicher Sprache statt mit Kodierung manipulieren können, was zahlreiche neue Möglichkeiten für jeden eröffnet, diese Modelle auszunutzen, was möglicherweise zu schädlichen Aktionen führt.»
Ads Dawson, Senior Security Engineer bei Cohere und einer der Mitbegründer des OWASP Top 10 for LLM Applications Projekts, fügte hinzu: «Für uns ist es wichtig, mit Unternehmen wie Lakera zusammenzuarbeiten, um unsere Sicherheitspraktiken kontinuierlich zu verbessern. Unsere Red-Teaming-Übungen ermöglichen es uns, Schwachstellen in unserer Sicherheitsinfrastruktur aufzudecken und unsere Verteidigungsmaßnahmen proaktiv zu stärken. Außerdem hilft uns die Zusammenarbeit mit anderen Branchenexperten, über neue Bedrohungen und sich entwickelnde Sicherheitstrends informiert zu bleiben. Indem wir Diskussionen über Sicherheitsherausforderungen und -lösungen anführen, tragen wir zu den kollektiven Bemühungen bei, die Sicherheitslage von KI-Anwendungen zu verbessern und die Nutzung von LLMs sicherer zu machen.»
David Haber, Gründer und CEO von Lakera, sagte: «Wenn man KI für Flugzeuge und das Gesundheitswesen entwickelt, werden hohe Sicherheitsstandards in alles integriert, was man tut. Damit KI ihr volles Potenzial entfalten kann, müssen wir diese hohen Standards auch im Unternehmen anwenden. Den Entwicklern kommt in der KI-Ära eine wichtige Rolle zu. Die KI-Sicherheit muss in den Lebenszyklus der Entwicklung integriert werden. Unternehmensentwickler benötigen eine intelligente Rechenschicht, die in KI-Anwendungen eingebettet ist, um einen dauerhaften Schutz zu gewährleisten. Das ist es, was Lakera liefert.»
Harald Nieder, General Partner bei Redalpine, erklärte: «KI birgt Sicherheitsrisiken, wie wir sie noch nie zuvor gesehen haben. Jedes Unternehmen, das KI nutzen will, muss sich mit dieser neuen Bedrohungslandschaft auseinandersetzen. Lakera verfügt über eines der erfahrensten Teams im Bereich KI und einen Schatz an Schwachstellendaten. Ihr entwicklungsorientierter Ansatz ist das fehlende Bindeglied für alle Unternehmen, um KI-Modelle mit Vertrauen einzusetzen.»
