Ein Jahr später mit LLMs: Predictions and Reflections

In letzter Zeit haben wir einige unserer Prognosen für 2024 für die Übersetzungsbranche veröffentlicht. Eine unserer Prognosen ist, dass KI-gestützte Technologie für Unternehmen noch attraktiver wird und im Wesentlichen zu einer Voraussetzung wird, um einen Wettbewerbsvorteil in der Branche zu haben. 2023 war ein Jahr, das sowohl die außergewöhnlichen Fähigkeiten der generativen KI, insbesondere der Large Language Models, als auch viele Mängel und die Notwendigkeit sorgfältig geplanter Entwicklungs- und Einsatzentscheidungen aufzeigte.

Im Jahr 2024 werden wir wahrscheinlich sehen, dass die Auswirkungen auf die Übersetzungsbranche exponentiell zunehmen und alle Phasen der Lokalisierung betreffen. Während der Schwerpunkt bisher auf der Texttransformation und -generierung lag, könnte sich die Entwicklung multimodaler Modelle auch auf Bereiche wie Multimedia-Lokalisierung, Voice-Over und Bildübersetzung auswirken.

LLM-Prognosen für 2024

Olga Beregovaya, VP of Machine Translation and AI bei Smartling, teilte einige ihrer Prognosen für die Übersetzungsbranche im Jahr 2024 mit:

• Bessere Unterstützung für Long-Tail-Sprachen: Wir haben bereits gesehen, dass LLMs unter Verwendung von Mustern aus benachbarten Sprachen Trainingsdaten für Sprachen mit unzureichenden Ressourcen erstellen können, wodurch automatisierte Übersetzungen für eine größere Anzahl von Gebietsschemas verfügbar und von höherer Qualität werden. Darüber hinaus können sich LLMs schnell an lokale und geospezifische Sprachgewohnheiten anpassen und so ein vielfältigeres Publikum, beispielsweise ethnische und soziale Gruppen, beim Übersetzen ansprechen.
• Neue Möglichkeiten für die Barrierefreiheit: KI wird es Unternehmen ermöglichen, ihre Produkte und Dienstleistungen an Zielgruppen aller Hintergründe und Fähigkeiten anzupassen. Beispielsweise kann ein multimodales Large Language Model geschriebenen Text für Sehbehinderte vorlesen und für Hörbehinderte transkribieren. KI wird Menschen mit Lernbehinderungen Karrieremöglichkeiten eröffnen, indem sie als verschiedene Arten von Co-Piloten und Lernassistenten fungiert.
• Stärkere Regulierungen und Einschränkungen: Das Jahr 2023 hat gezeigt, dass ein Mangel an Regulierung und gesetzlichen Maßnahmen rund um generative KI nachteilige Folgen haben kann. Der Missbrauch von generativer KI im Sprachraum kann einer der gefährlichsten Bereiche sein, da er zu Dingen wie sachlichen Ungenauigkeiten oder einer potenziell nachteiligen Entscheidung führen kann, wie z. B. dem berüchtigten Fall von Kreditentscheidungen, die bestimmte ethnische und soziale Gruppen diskriminieren. Wir gehen davon aus, dass es in diesem Jahr mehr internationale Regulierungsbehörden und Leitplanken rund um die Entwicklung und den Einsatz von KI-Modellen geben wird.
• Kleinere und intelligentere Modelle: Wir haben begonnen, eine sehr starke Leistung von kleineren Modellen zu sehen, die mit kleineren Datasets für bestimmte Aufgaben trainiert wurden (z. B. Llama2 für bestimmte Sprachen und Übersetzungsaufgaben). Wir gehen davon aus, dass im kommenden Jahr viele weitere solcher kleineren Modelle verfügbar sein werden, die von Technologieanbietern oder Sprachdienstleistern für bestimmte Sprachen und Domänen trainiert werden.
• Eine anhaltende Rolle für NMT: Trotz des Hypes um LLMs wird die traditionelle neuronale maschinelle Übersetzung weiterhin eine Rolle im Bereich der Lokalisierung spielen. Insbesondere haben wir gesehen, dass die Anpassung für bestimmte Domains weiterhin verwendet wird. Die Feinabstimmung von LLMs ist nach wie vor eine komplexe und teure Aufgabe mit vielen Unbekannten und Trial-End-Error, während das Training von NMT ein gut etablierter und erfolgreich funktionierender Ansatz ist, der auch sehr kostengünstig ist. Irgendwann werden wir die Konvergenz der beiden Ansätze sehen, und das kann möglicherweise im Jahr 2024 geschehen.

Verwendung von LLMs in Smartling

Olgas Vorhersagen haben uns so gut gefallen, dass wir beschlossen haben, einige unserer Kollegen zu bitten, darüber nachzudenken, wie sich LLMs auf ihre Rollen, die Übersetzungsbranche als Ganzes und ihre Erwartungen für das kommende Jahr ausgewirkt haben.

Sehen wir uns an, was sie zu sagen hatten:

Benjamin Loy, Leitender Ingenieur

LLMs haben einen neuen Wendepunkt der Automatisierung für die gesamte Übersetzungsbranche geschaffen. Grundlegende Probleme bei der Automatisierung von Sprachtransformationen sind endlich in greifbare Nähe gerückt, um mit diesen neuen Technologien teilweise oder vollständig gelöst zu werden.

Alex Yanishevsky, Direktor für KI-Entwicklung

Der LLM hat meine Rolle grundlegend verändert, aber was noch wichtiger ist: Er hat unsere gesamte Branche dramatisch verändert. Mit Blick auf das nächste Jahr ist mein Ziel: Wie berate ich den Kunden am besten, d.h. welche der unzähligen Möglichkeiten, für die wir LLMs einsetzen können, welche den höchsten Wert bieten und die Skala für die anfallenden Kosten am weitesten verschieben.

Chris Wyant, Assoc. Direktor des Sprachendienstes

LLMs machen automatisierte Übersetzungen intelligenter, schneller und effektiver als je zuvor. Diese Technologiesprünge ermöglichen es unseren Übersetzern, effizienter als je zuvor zu arbeiten. Linguisten können sich weiterbilden und ihre Karriere ausbauen, indem sie diese Tools nutzen. Unsere Daten zeigen, dass die Produktivität gestiegen ist und dass das Einkommen der Linguisten nicht den Schlag erlitten hat, den viele befürchtet hatten.

Grace Feeney, Leiterin der Vertriebsentwicklung

LLMs haben die Art und Weise, wie mein Team an die Erstellung von E-Mails herangeht, revolutioniert. Durch die Aggregation von Daten aus verschiedenen Quellen über den Interessenten und die Ziele des Unternehmens ermöglichen LLMs meinem Team, als Redakteur zu agieren, anstatt Inhalte von Grund auf neu zu erstellen.

Nicole Michel, Produktmanagerin - Maschinelle Übersetzung

Nach dem anfänglichen Hype wurde klar, dass LLMs für bestimmte Aufgaben wirklich gut geeignet und für bestimmte Anwendungsfälle sehr wertvoll sind, sie sind jedoch keine Generalisten und werden die neuronale maschinelle Übersetzung noch nicht sofort ersetzen, insbesondere wenn in den maschinellen Übersetzungsworkflows auch Glossare, TMs und/oder individuell trainierte Engines genutzt werden. Halluzinationen, Kosten und die Notwendigkeit, für jeden Anwendungsfall eine separate Eingabeaufforderung zu entwickeln, um die gewünschten Ergebnisse zu erzielen, verhindern derzeit in vielen Organisationen die flächendeckende Einführung von LLMs.

Andriy Furdylo, leitender Teamingenieur

Ich habe viele Versuche bemerkt, Language Model Models (LLMs) in verschiedenen Geschäftsbereichen zu integrieren, aber nicht alle waren erfolgreich. Wenn Sie wissen, wie man die richtigen Fragen stellt, können Sie hervorragende Ergebnisse erzielen. Sie sind immer noch nur ein Assistent, wenn auch ein hochintelligenter.

Max Sogin, Vizepräsident für Technik

60 % des Engineering-Teams nutzen täglich ChatGPT oder GitHub Copilot. Wir haben festgestellt, dass Trivial-Eingabeaufforderungen deutlich weniger stabil und performant sind als anspruchsvolle Eingabeaufforderungen, die mehreren Test- und Verfeinerungsiterationen unterzogen werden. Ich bin gespannt, ob Eingabeaufforderungen letztendlich zum Gegenstand von geistigem Eigentum werden. Wir haben auch ein Auge auf kleinere LLMs wie LLama und Alpaka, die Kostenmanagement und hauseigene (kleinere) Modelle anbieten können. LLMs werden bei großen Volumina/Skalenumfang sehr teuer.

Es ist klar, dass LLMs im vergangenen Jahr einen großen Einfluss auf Smartling hatten, da wir den Einsatz sowohl in unserem Produkt als auch in der täglichen Arbeit angenommen haben. Insgesamt können wir 2024 definitiv als "das Jahr der verantwortungsvollen KI" bezeichnen, in dem die Vorteile der Innovation weltweit auf verantwortungsvolle, ethische und effizienteste Weise genutzt werden. Wir freuen uns darauf, in diesem Jahr gemeinsam mit unseren Kunden diese neuen Funktionen zu erkunden.