Mašininis vertimas lietuvių kalbai

DANIELIUS ALGIRDAS RALYS Universiteit van Vilnius MACHINEVERTALING NAAR HET LITOUWS1 TREFWOORDEN: Litouwse taal, geschiedenis, computationele taalkunde, machinevertaling, neurale netwerken, kunstmatige intelligentie. INLEIDING Tegenwoordig vertalen computers steeds meer teksten. Deze automatische vertaling door computers wordt meestal machinevertaling (MV) genoemd. Machinevertaling wordt doorgaans uitgevoerd om zo snel mogelijk inzicht te krijgen in de enorme stroom informatie in verschillende talen, en ook om de eigen informatie zo breed mogelijk te verspreiden. De uitwisseling van elektronische informatie tussen volkeren en talen wordt een belangrijk onderdeel van het dagelijks leven, opent nieuwe mogelijkheden voor onze taal en stelt haar voor nieuwe uitdagingen en problemen. De term „machinevertaling” (Eng. machine translation) werd halverwege de vorige eeuw voor het eerst gebruikt door Warren Weaver, die voorstelde de pas uitgevonden computers in te zetten voor het vertalen van teksten (Weaver 1949: 1). W. Weaver stelde voor een tekst in een andere taal te beschouwen als een cijfertekst die kan worden ontcijferd. De cryptografische successen van Britse en Amerikaanse specialisten in de onlangs afgelopen Tweede Wereldoorlog voedden het optimisme. Men geloofde toen oprecht dat elektronische machines binnen enkele jaren zouden helpen de vloek van de Toren van Babel te overwinnen. Helaas verliep de vooruitgang van de vertaling langzaam, en de kwaliteit van machinevertaling kwam bij lange na niet in de buurt van die van menselijke vertaling. Na zeventig jaar, na onmiskenbare successen en teleurstellingen en na veel verricht werk, heerst er binnen de gemeenschap van machinevertaling opnieuw optimisme. Ditmaal zijn de verwachtingen gericht op kunstmatige neurale netwerken en de snelle vooruitgang bij de ontwikkeling van kunstmatige intelligentie. Machinevertaling heeft ook het Litouws bereikt. Tegenwoordig zijn er gemakkelijk toegankelijke online machinevertalingsdiensten die vanuit de populairste talen naar het Litouws en omgekeerd vertalen. De vertaalkwaliteit van de meeste diensten is nog vrij slecht; hun vertaalde teksten moeten worden geredigeerd. Alleen de vertaaltool Google Translate2 onderscheidt zich door een betere kwaliteit; daarin is men begonnen gebruik te maken van 1 Het artikel is gebaseerd op de lezing „Machinevertaling naar het Litouws”, gehouden in Vilnius op 29 september 2017 tijdens de 24e internationale Jonas Jablonskis-conferentie „Digitale taalbronnen, richtingen voor hun ontwikkeling en toepassingsmogelijkheden”. 2 Online beschikbaar https://translate.google.com. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 2 neurale vertaaltechnologieën. De meeste zinnen die met dit hulpmiddel zijn vertaald, behouden de betekenis die ze in de oorspronkelijke taal hadden. Machinevertaling wordt op grote schaal gebruikt om informatie in andere talen te verspreiden. Vaak worden resultaten van machinevertaling onverantwoordelijk en geheel onbewerkt online geplaatst. De gevolgen daarvan zijn al zichtbaar: het internet staat vol met gebrekkige Litouwse teksten met vervormde informatie, die automatisch zijn gegenereerd door een of ander machinevertaalprogramma3. Geleidelijk kunnen zulke teksten ook in corpora terechtkomen. Machinevertaling is alledaagse realiteit geworden, soms verrassend en soms ronduit stuitend, en verdient niet alleen meer aandacht van taalkundigen, maar ook een grotere betrokkenheid van hun kant bij de verdere ontwikkeling van machinevertaling. Dit artikel geeft een kort overzicht van de geschiedenis van machinevertaling (MV) en bespreekt enkele ideeën die van invloed zijn geweest op de ontwikkeling van MV. Ook worden de resultaten gepresenteerd die verschillende vertaaltechnologieën voor het Litouws hebben behaald. De mogelijkheden om MV op het Litouws toe te passen met regelgebaseerde, statistische en neurale methoden worden onderzocht. Wegens ruimtegebrek worden pogingen om enkele van deze methoden in één vertaalsysteem te combineren niet besproken. 1. DE OORSPRONG VAN MACHINEVERTALING Een goede vertaling uit een andere taal vormt altijd een zekere intellectuele uitdaging voor de mens, en vertalen is nooit een gemakkelijke bezigheid geweest. Het is dan ook niet verwonderlijk dat men heeft geprobeerd het vertalen op de een of andere manier te automatiseren. In 1932–1935 vond en bouwde de Franse ingenieur Georges Artsrouni een universeel mechanisch apparaat, dat hij de mechanische hersenen noemde (Frans: cerveau mécanique), en dat naast andere functies ook de mogelijkheid bood om ingevoerde tekst in verschillende talen te vertalen (Hutchins 2004a: 12). In dit elektromechanische apparaat draaide een lange (tot 40 meter lange) geheugenband van flexibel karton. Daarop stond een meertalig woordenboek, dat wel enkele tienduizenden woorden kon bevatten. Een op het toetsenbord ingevoerd Frans woord werd mechanisch gecodeerd, waarna de geheugenband op basis van die code naar de juiste positie draaide. Na enkele tientallen seconden toonde het apparaat de vertaling van het ingevoerde woord (Daumas 1965: 294–295). Het apparaat werd in 1937 op de wereldtentoonstelling van Parijs gedemonstreerd, trok veel belangstelling en werd met de Grote Prijs bekroond. In feite was het de eerste ter wereld 3 Jonathan Swift beschrijft in zijn Gullivers reizen op satirische wijze een machine die betekenisloze woordcombinaties samenstelt, die vervolgens voortdurend zorgvuldig in boeken werden opgeschreven. Tegenwoordig kan dezelfde onzin veel sneller worden geproduceerd... BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 3 werkend mechanisch woordenboek. G. Artsrouni bleef zijn apparaat later verbeteren, maar mechanische problemen en het uitbreken van de Tweede Wereldoorlog maakten een einde aan de werkzaamheden. In 1933 verkreeg Pjotr Smirnov-Trojanski in de Sovjet-Unie een octrooicertificaat voor een elektromechanische vertaalmachine4. Hoewel deze machine nooit werd gebouwd, formuleerde de uitvinder veel waardevolle ideeën voor machinevertaling, die pas vele jaren later, met de komst van computers, werden verwezenlijkt. P. Smirnov-Trojanski sprak Russisch en begreep daardoor de eigenschappen van flecterende talen goed. Hij stelde voor het vertaalproces in drie fasen op te delen: in de eerste fase moest een mens de tekst reduceren tot lemma's en die annoteren met morfosyntactische labels (de analysefase); vervolgens moest de machine in de tweede fase automatisch de lemma's in een of meer doeltalen vinden en daaraan dezelfde labels toekennen (de transformatiefase); in de derde fase moest een redacteur op basis van de vertaalde lemma's en hun labels een vloeiende vertaaltekst opstellen (de generatiefase). P. Smirnov-Trojanski stelde ook verschillende methoden voor om synoniemen, homoniemen en idiomen te vertalen. De ideeën van P. Smirnov-Trojanski werden in zijn vaderland niet gewaardeerd; hij maakte het computertijdperk niet meer mee5, maar de ideeën van de uitvinder raakten niet in de vergetelheid en werden later ook in het Westen bekend. Het tijdperk van de praktische machinevertaling begon met de komst van computers. In 1947 vroeg W. Weaver in een brief aan de geniale taalkundige en computerbouwer Norbert Wiener of de nieuwste ontwikkelingen in de cryptografie en de pas verschenen computers6 konden worden ingezet voor het vertalen van talen. W. Weaver stelde dat elke Russische tekst kon worden opgevat als een Engelstalig bericht dat in Cyrillische letters was gecodeerd. Hij dacht dat computers dat bericht eenvoudig konden ontcijferen. Helaas was het antwoord van N. Wiener sceptisch. In 1949 stuurde W. Weaver een memorandum aan een breder publiek, waarin hij voorstelde computers te gebruiken om teksten te vertalen (Weaver 1949: 7)7. In die tijd overheersten in verschillende Amerikaanse en Britse laboratoria ideeën over eenvoudige, woordelijke machinevertaling. De wetenschapper was ervan overtuigd dat computers veel beter konden vertalen. In het memorandum stelde W. Weaver vier richtingen voor om vertaalproblemen op te lossen en te onderzoeken. Allereerst stelde hij voor de directe context van het te vertalen woord statistisch te analyseren en zo problemen met polysemie op te lossen. Dit inzicht vormt tegenwoordig de basis van statistische machinevertaling. Het tweede voorstel berustte op de aanname dat er in een taal 4 In het octrooicertificaat wordt dit hulpmiddel aangeduid als „een machine om woorden te selecteren en af te drukken bij het vertalen van de ene taal naar een andere of naar meerdere talen tegelijk”. 5 P. Smirnov-Trojanski stierf in 1950. 6 De eerste Britse elektronische computer, Colossus, werd begin 1944 in gebruik genomen; de eerste Amerikaanse elektronische digitale computer, ENIAC, werd eind 1945 gebouwd. De eerste Sovjetcomputer, MESM, werd in 1950 gebouwd. 7 De term machinevertaling (Engels: machine translation) uit dit memorandum van W. Weaver raakte al snel ingeburgerd. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 4 bestaat uit logische elementen; daarom zou het met behulp van neurale-netwerkmodellen (McCulloch, Pitts 1943: 115–133) mogelijk moeten zijn de vertaling af te leiden uit de aannames in de oorspronkelijke taal. De tijd heeft de genialiteit van dit inzicht aangetoond: vandaag de dag levert de neurale methode voor machinevertaling de beste kwaliteit. Een derde richting voor het oplossen van de problemen zou het toepassen van cryptografische methoden op taalvertaling moeten zijn. Veertig jaar later werd dit gerealiseerd in algoritmen voor statistische machinevertaling. Ter illustratie van zijn vierde voorstel tekende W. Weaver een allegorisch beeld waarin mensen in hoge, afgesloten torens wonen, die verschillende talen symboliseren. Met veel moeite lukt het hun met elkaar te communiceren door elkaar door de dikke muren van de torens toe te roepen. Gelukkig hebben de torens een gemeenschappelijke fundering en kelder; men hoeft er alleen maar af te dalen, waarna communiceren gemakkelijker zou moeten zijn. W. Weaver stelde dat er in de talen van de wereld een bepaalde gemeenschappelijke diepe structuur besloten ligt, die nog aan het licht moet worden gebracht. Dit laatste voorstel van de wetenschapper zette aan tot het zoeken naar en construeren van een universele taal — de interlingua voor machinevertaling8. Na het memorandum van W. Weaver kwam de machinevertaling snel op gang. In 1954 werd in New York in het openbaar een machinevertaalsysteem gedemonstreerd dat was ontwikkeld in samenwerking tussen IBM en de Universiteit van Georgetown. Er werd vertaald van het Russisch naar het Engels. Het systeem was geprogrammeerd met slechts zes grammaticaregels en voor de vertaling werden ongeveer 250 woorden gebruikt (Hutchins 2004b: 102). Het systeem was gericht op de organische chemie; de vertaalvoorbeelden waren vooraf zorgvuldig voorbereid. Na het experiment hoopte men dat machines binnen enkele jaren uitstekend zouden vertalen, en voor de voortzetting van het werk werd ruime financiering toegekend. Machinevertaling werd snel verder ontwikkeld in de Verenigde Staten van Amerika (VS) en de Sovjet-Unie, met als doel een strategisch voordeel in de Koude Oorlog te behalen. De populairste vertaalrichtingen waren Russisch en Engels. 2. REGELGEBASEERDE MACHINEVERTALING Halverwege de jaren vijftig van de vorige eeuw ontstonden systemen voor machinevertaling (computervertaling) die regelgebaseerd werden genoemd (Engels rule-based). Ze werden ontwikkeld vanuit de opvatting dat een taal kan worden beschreven met behulp van een verzameling bepaalde regels, waaronder grammaticale regels. Bij deze methode wordt een zin in de brontaal tot een bepaald gekozen niveau geanalyseerd, wordt de zinsstructuur vastgesteld en volgens de opgestelde regels omgezet in een equivalente structuur in de doeltaal, op basis waarvan een zin in de doeltaal wordt gegenereerd. De zinsstructuren van verschillende talen kunnen sterk uiteenlopen en bepaalde kenmerken vertonen die in het machinevertaalsysteem moeten worden weerspiegeld. 8 Dit moet niet worden verward met interlingua’s voor natuurlijke talen, zoals Esperanto, Ido, Volapük enzovoort. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 5 in het systeem. Daiva Šveikauskienė (2005: 411–417) onderzocht de problemen bij het weergeven van syntactische zinsstructuren van het Litouws op een manier die geschikt is voor machinevertaling. Er bestaan verschillende varianten van regelgebaseerde machinevertaalsystemen, die verschillen in de diepgang van de analyse (fig. 19). Hoe dieper de zinsanalyse, hoe eenvoudiger de transformatie. In het ideale geval zou bij analyse van de tekst tot op het niveau van de interlingua geen transformatie meer nodig zijn: de interlinguale tekstrepresentatie zou in alle talen identiek moeten zijn. FIG. 1. Vauquois-driehoek van regelgebaseerde machinevertaling De problemen van regelgebaseerde machinevertaling zijn aangepakt met zowel empirische als linguïstische methoden. In het empirische kamp was de directe vertaalmethode het populairst. Bij deze manier van vertalen worden tussen twee talen alleen een woordenboek en eenvoudige programmaregels gebruikt; taal- of syntactische analyse en reorganisatie vinden praktisch niet plaats (deze methode komt overeen met het laagste niveau in fig. 1). In de Verenigde Staten ontwikkelde in de jaren vijftig van de vorige eeuw een onderzoeksgroep onder leiding van Erwin Reifler speciale woordenboeken voor machinevertaling, waarin naast lexicale equivalenten ook regels waren opgenomen voor lokale wijzigingen in de woordvolgorde. Ook werden vertalingen van veel uitdrukkingen gegeven en werden overkoepelende begrippen (Engels cover terms) samengevat om problemen met polysemie op te lossen. In 1964 werd Mark II in gebruik genomen, een Russisch-Engels systeem voor directe vertaling dat in opdracht van de Amerikaanse luchtmacht was ontwikkeld. Het maakte gebruik van het woordenboek van E. Reifler, dat meer dan 170 000 woorden bevatte (Reifler 1960: 312). Linguïstische methoden werden op grotere schaal toegepast aan de Universiteit van Georgetown, waar een grote groep onderzoekers naar machinevertaling bijeenkwam, verdeeld over verschillende teams die uiteenlopende methoden toepasten. 9 Dergelijke afbeeldingen worden vaak de Vauquois-driehoek genoemd; deze afbeeldingsmethode werd voorgesteld door de Franse pionier van de machinevertaling, Bernard Vauquois (1976: 335). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 6 groepen. In de door Michael Zarechnak geleide groep werd het Georgetown Automatic Translation-systeem (GAT – Georgetown Automatic Translation) ontwikkeld. Daarin werden drie analyseniveaus uitgevoerd: morfologische analyse (waarbij ook idiomen werden geïdentificeerd), syntactische analyse en syntagmatische analyse. Het aangepaste GAT-systeem werd in 1963 met succes in gebruik genomen bij Euratom (in Ispra, Italië) en in 1964 bij de Amerikaanse Commissie voor Atoomenergie. Het ontwikkelen van een MT-systeem op basis van een interlingua duurde veel langer. Het MT-systeem KANT, dat commerciële waarde had, verscheen pas in het laatste decennium van de vorige eeuw (Mitamura et al. 1991: 105–118). Het systeem werd gebruikt om bepaalde technische teksten te vertalen. Een interlingua voor het uitdrukken van algemene taal werd nooit ontwikkeld. Gedurende het hele decennium na de IBM-Georgetown-presentatie over MT werden grote inspanningen geleverd om de kwaliteit van MT-vertalingen aanzienlijk te verbeteren10, maar de vooruitgang was zeer gering. In 1966 besloot het in de VS opgerichte comité ALPAC (Automatic Language Processing Advisory Committee) dat MT op korte termijn geen perspectief bood, omdat de kwaliteit slecht was en een vertaler de output nog moest redigeren, wat meer tijd kostte dan vertalen zonder machines. Het ALPAC-comité zag over het hoofd dat machinevertaling helpt enorme hoeveelheden informatie te vertalen en dat veel gebruikers genoegen nemen met een slechte vertaling die slechts de strekking weergeeft. Na de negatieve conclusies van het comité werd de financiering van MT-projecten in de VS gedurende tientallen jaren vrijwel volledig stopgezet; ook in andere landen nam de financiering af. Ondanks de ontstane scepsis ten aanzien van MT boekte het vakgebied voortdurend vooruitgang. Het in 1968 in de VS ontwikkelde regelgebaseerde vertaalsysteem SYSTRAN (Toma 1977: 569–581) werd voortdurend verbeterd en werd later commercieel. Het systeem werd in gebruik genomen bij het Amerikaanse ministerie van Defensie, NASA, Euratom, de Europese Commissie en tal van andere organisaties. Volgens een commerciële overeenkomst uit 1975 kreeg de Europese Commissie het recht het systeem voor eigen gebruik te verbeteren. Het systeem vertaalde teksten uit bepaalde taaldomeinen redelijk goed naar vele talen. Vanaf 2010 begon SYSTRAN hybride technologieën te gebruiken. Ook in andere landen kwamen redelijk goed werkende MT-systemen tot stand: ARIANE (in Grenoble, Frankrijk), het daarop lijkende MU-systeem (in Kyoto, Japan) en SUSY (in Saarbrücken, Duitsland). Het Europese EUROTRA-project (1982–1992), dat meer dan 50 000 000 ECU11 kostte, eindigde op een mislukking: honderden specialisten slaagden er niet in een werkend MT-systeem te ontwikkelen. Zo begon een ernstige crisis van regelgebaseerde MT. Daarna bleef men jarenlang ter plaatse trappelen. 10 In de VS werd in deze periode ongeveer 20 miljoen dollar uitgegeven aan de ontwikkeling en verbetering van MT-systemen. 11 In een verslag van de Commissie van de Europese Gemeenschappen (CEC – Commission of the European Communities) uit 1994 werden de financieringsgegevens van EUROTRA vermeld: de Commissie kende het project in 1982–1992 37,5 miljoen ECU toe (CEC 1994: 3.10); de regeringen van verschillende landen verstrekten aan de zestien EUROTRA-centra daarnaast meer dan 20 miljoen ECU (CEC 1994: A4.2). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 7 Regelgebaseerde machinevertaling kwam in Litouwen pas in deze eeuw op. In 2003–2004 werd het machinevertaalsysteem Česilko (Hajič et al. 2000: 10–12) aangepast voor het Litouws (Homola, Rimkutė 2004: 77–81). In die periode onderzochten Petras Homola en Erika Rimkutė de mogelijkheden van dit systeem voor machinevertaling tussen het Tsjechisch en het Litouws. In 2005–2007 voerde de Vytautas Magnus-universiteit een door de Structuurfondsen van de Europese Unie gefinancierd project uit, getiteld ‘Onlinevertalingstool voor informatie’. De structuur van het ontworpen MT-systeem is beschreven door Vidas Daudaravičius (2006: 7–18). Er werd een openbare onlinevertalingstool van het Engels naar het Litouws ontwikkeld12. De vertaalengine werd geleverd door het Russische bedrijf PROMT. Een deel van de taalkundige componenten van het systeem werd in Litouwen ontwikkeld. Het systeem vertaalde slechts enkele typen zinnen uitstekend; goede vertalingen vormden een minderheid. In 2007 werd een taalkundige evaluatie van dit MT-systeem uitgevoerd (Rimkutė, Kovalevskaitė 2008: 257–264). Audronė Daubarienė en Greta Ziezvytė (2013: 55–61) beoordeelden in hoeverre de vertalingen van het MT-systeem van de Vytautas Magnus-universiteit voldeden aan de tekstualiteitsstandaarden (De Beaugrande, Dressler 1981: 3). In hun onderzoek stelden de auteurs vast dat machinevertaalde teksten uit verschillende genres, vanwege talrijke semantische fouten, niet voldeden aan de coherentiestandaard en enkele andere tekstualiteitsstandaarden; dergelijke vertalingen kunnen daarom voor de lezer niet aanvaardbaar en informatief zijn. Naarmate de decennia verstreken en men in wezen ter plaatse bleef trappelen, begon men in te zien dat taal een uiterst complex verschijnsel is, dat zeer moeilijk in regels te beschrijven valt. Om problemen met meerduidigheid en de vertaling van anaforen op te lossen, werd voorgesteld extralinguïstische informatie over de structuur van de wereld en haar logica te gebruiken (Bar-Hillel 1958: 197–207). Zulke gesystematiseerde informatie bestond echter eenvoudigweg niet, en een formele beschrijving van de betekenis van een tekst leek een moeilijkere opgave dan het vertalen zelf. Het was duidelijk dat problemen met machinevertaling revolutionaire oplossingen vereisten. 2. STATISTISCHE MACHINEVERTALING In 1988 stelde een groep IBM-onderzoekers (Brown et al. 1988: 71–76) voor om voor machinevertaling informatie uit parallelle tekstcorpora te benutten en zo de meest waarschijnlijke vertaalvarianten te vinden. Het voorgestelde vertaalmodel gaat ervan uit dat in een ruisig kanaal een zin in de brontaal f verandert in een zin e in de doeltaal. Ruis in het kanaal vervormt de zin in de brontaal f statistisch, waardoor we aan de uitgang van het kanaal allerlei zinnen e kunnen krijgen, van uiteenlopende lengte, die in de doeltaal een bepaalde betekenis hebben of helemaal geen betekenis. Omdat het kanaal probeert correct te vertalen, dringen correcte vertaalvarianten steeds vaker door de ruis heen. 12 Online beschikbaar http://vertimas.vdu.lt/twsas/. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 8 In dit model wordt aangenomen dat wanneer een zin f naar een kanaal wordt gestuurd, de meest geschikte vertaaloptie ê van alle e die is waarvoor de voorwaardelijke kans op verschijnen aan de uitgang van het kanaal p(e|f) maximaal is, dat wil zeggen: ê = argmaxe p(e|f). Hier doet zich het probleem voor dat men, om de beste vertaaloptie ê te vinden, niet alleen alle mogelijke zinnen in de doeltaal moet bekijken, maar ook allerlei woordcombinaties daarin. Een dergelijk aantal kansen berekenen is zeer moeilijk. Door de stelling van Bayes toe te passen, verkrijgen we een equivalent uitdrukking die gemakkelijker te berekenen is (Koehn et al. 2003: 127): argmaxe p(e|f) = argmaxe p(f|e) p(e) Ši lygtis yra pamatinė statistinio mašininio vertimo lygtis (Brown ir kt. 1993). Joje sąlyginė tikimybė p(f|e) parodo tikimybę, kad kanalu buvo pasiųstas sakinys f, jei išėjime pasirodė sakinys e. Šis lygties narys vadinamas vertimo modeliu, kuris apskaičiuojamas iš dvikalbių tekstynų. Antrasis lygties narys p(e) parodo sakinio e tikimybę vertimo kalboje. Šis narys aprašo kalbos modelį, kuris apskaičiuojamas iš vienkalbių vertimo kalbos tekstynų13. AFB. 2. De Vauquois-driehoek van statistische machinevertaling De vertaalmethode die door IBM-wetenschappers werd voorgesteld, begon qua vertaalkwaliteit onmiddellijk te concurreren met regelgebaseerde vertaling. De ontwikkelaars van statistische MV-systemen waren gecharmeerd van de mogelijkheid om naar vele talen te vertalen zonder iets te weten over vertalen of grammatica; het volstond de systemen in ontwikkeling te trainen met de beschikbare corpora. Bij klassieke statistische vertaling wordt geen enkele 13 Het taalmodel beperkt de hoeveelheid berekeningen, omdat het helpt zinnen die niet in de corpora voorkomen meteen uit te sluiten en de vloeiendste vertaling te kiezen; bovendien laat het indirect zien waarom een vertaler wiens doeltaal moedertaal is, literaire teksten beter vertaalt. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 9 analyse van zinnen in de brontaal of synthese van zinnen in de doeltaal (afb. 2); er wordt uitsluitend vertaald op basis van de kansen die tijdens het trainen van het systeem zijn vastgesteld. De vijf modellen voor woorduitlijning in vertalingen die Peter Brown en zijn collega's voorstelden, waren niet flexibel genoeg: ze stonden toe dat een woord uit de brontaal met één of meer woorden werd vertaald, of helemaal niet werd vertaald. In 2003 werd een flexibeler model voor machinevertaling voorgesteld (P. Koehn et al. 2003: 127–133), dat ook zinsdelen uit de brontaal kon vertalen. In deze periode werden methoden voor de automatische evaluatie van de kwaliteit van machinevertaling snel verbeterd, omdat het zeer belangrijk was snel te weten welke versie van het afgestelde machinevertaalsysteem het beste vertaalde. Ook streefde men ernaar dat een dergelijke evaluatie de vertaalkwaliteit van verschillende systemen objectief kon vergelijken. Na verloop van tijd werd BLEU (afkorting van het Engelse bilingual evaluation understudy) een van de populairste maatstaven (Papineni et al. 2002: 311–318); hierbij wordt automatisch vergeleken hoe ver een machinevertalingstekst afstaat van een menselijke vertaling. Deze maatstaf houdt geen rekening met de begrijpelijkheid of grammaticale correctheid van de tekst; alleen exact overeenkomende woorden of zinsdelen worden geteld. Bij het berekenen van de maatstaf krijgen overeenkomende zinsdelen relatief meer statistisch gewicht dan afzonderlijke overeenkomende woorden. Afhankelijk van de taak worden vaak ook andere maatstaven gebruikt om de kwaliteit van MV te beoordelen, elk met een of andere gewenste eigenschap: F-measure, METEOR (Banerjee, Lavie 2005: 62–72), NIST (Doddington 2002: 138–145), TER (Snover et al. 2006: 223–231) en vele andere. Ondanks de populariteit van statistische MV werd de beperking van deze methode bij het vertalen naar morfologisch rijke (flecterende) talen steeds duidelijker. Parallelle corpora voor flecterende talen bevatten meestal niet alle mogelijke vormen van zinsdelen of zelfs van afzonderlijke, minder frequente woorden. Als bepaalde mogelijke vormen niet in de training van het MV-systeem waren opgenomen, zouden die vormen ook niet worden vertaald. Dit tekort van klassieke MV wordt veroorzaakt door onvoldoende gegevens, waardoor na training van het systeem een ijle vertaalwaarschijnlijkheidsmatrix ontstaat. Om dit probleem te verhelpen, stelden Philipp Koehn en Hieu Hoang gefactoriseerde statistische machinevertaling voor (Koehn, Hoang 2007a: 868–876). Er werd voorgesteld aanvullende taalkundige informatie in het vertaalsysteem te integreren door parallelle corpora te annoteren met labels voor taalkundige analyse, die vervolgens worden gebruikt om het systeem te trainen. In 2007 brachten P. Koehn en zijn collega's een volledig pakket voor statistische MV uit onder de open-sourcelicentie, Moses (Koehn et al. 2007b: 177–180). De toepassing van gefactoriseerde statistische MV verbeterde de vertaalkwaliteit voor flecterende talen enigszins, doorgaans met 1–2 BLEU-procentpunten (Bojar 2007: 235–236; Skadinš et al. 2010: 128–129). Vanaf 25 september 2008 kon het statistische MV-systeem van Google Translate ook naar het Litouws vertalen. In 2012–2014 voerde de Universiteit van Vilnius een project uit met middelen uit de Structuurfondsen van de Europese Unie BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 10 het gefinancierde project „Ontwikkeling van een systeem voor statistische machinevertaling voor de talen Engels–Litouws–Engels en Frans–Litouws–Frans“. Het grootste deel van het projectwerk werd uitgevoerd door UAB Tilde. Het MV-systeem ALPMAVIS werd ontwikkeld en er kwam voor het publiek een openbare online statistische MV-dienst beschikbaar (https://www.versti.eu/)14. Volgens de testgegevens uit 2014 waren de kwaliteitsscores voor het vertalen van algemene teksten (op de BLEU-maatstaf) meer dan tweemaal zo hoog als de resultaten van de Litouwse regelgebaseerde vertaling en waren ze praktisch gelijk aan de resultaten van het vertaalsysteem Google Translate. ALPMAVIS kan vooral juridische teksten goed vertalen. 3. KWALITEIT VAN MACHINEVERTALING NAAR HET LITOUWS Met de opkomst van een nieuw taalverschijnsel – door machines vertaalde Litouwse teksten – werd het interessant om de kwaliteit van zulke vertalingen te beoordelen in relatie tot de standaardtaal. Voor de beoordeling werd een tekst van algemene aard gekozen, omdat die de standaardtaal beter weerspiegelt; de BLEU-maatstaf werd gebruikt om de vertaalkwaliteit te meten. Voor het testen van de vertaalkwaliteit werd een online gepubliceerde tekst van algemene aard gekozen15. De BLEU-berekeningen zijn uitgevoerd op een langer document dan de hieronder weergegeven fragmenten ervan, aangezien BLEU-scores op zinsniveau slecht correleren met menselijke kwaliteitsbeoordelingen (Kos, Bojar 2009: 140). De verstrekte informatie helpt de lezer te begrijpen hoe de procentuele scores van BLEU CI (berekend zonder onderscheid te maken tussen hoofdletters en kleine letters) samenhangen met de kwaliteit van machinevertaling. Anderzijds kan de lezer ook zonder naar de cijfers te kijken zelf een oordeel vormen over de vertalingen van MV-systemen die werken volgens de eerder beschreven modellen. Hieronder worden vertaalversies van dezelfde oorspronkelijke tekst weergegeven, verkregen met verschillende vertaalmethoden. Vóór de vertaalde tekst worden de vertaalmethode, de datum waarop de vertaling online is uitgevoerd en de procentuele BLEU CI-score vermeld. Oorspronkelijke tekst in het Engels: Iedereen wil een lang, gelukkig en gezond leven, en wetenschappers doen hun uiterste best om dat mogelijk te maken. Ze pakken enkele van de belangrijkste actuele gezondheidsproblemen aan, evenals opkomende bedreigingen zoals de toenemende impact van de ziekte van Alzheimer, diabetes en antibioticaresistente ‘superbacteriën’. Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en onze gezondheids- en zorgstelsels in stand te houden 14 ALPMAVIS is ook beschikbaar via het informatiesysteem voor geïntegreerde Litouwse taal- en schriftbronnen Raštija.lt (www.raštija.lt). 15 Iš programos HORIZON 2020. Europos Komisijos Mokslinių tyrimų ir inovacijų generalinis direktoratas 2014. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 11 haalbaar. Het zal artsen de middelen geven die zij nodig hebben voor meer gepersonaliseerde geneeskunde, en het zal de preventie en behandeling van chronische en infectieziekten versterken. Vertaling door de vertaler: Iedereen wil lang en gelukkig leven en gezond zijn, en wetenschappers doen hun uiterste best om dat mogelijk te maken. Zij proberen enkele van de belangrijkste bestaande gezondheidsproblemen en opkomende bedreigingen voor de gezondheid aan te pakken, zoals de toenemende problemen die worden veroorzaakt door de ziekte van Alzheimer, diabetes en antibioticaresistente micro-organismen. Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en ons gezondheidszorgstelsel levensvatbaar te houden. Ze zullen artsen de middelen geven die zij nodig hebben om geneesmiddelen af te stemmen op de individuele behoeften van patiënten; bovendien zullen ze bijdragen aan de preventie en behandeling van chronische en besmettelijke ziekten. Regelgebaseerde machinevertaling van VDU, 2014 09 19, BLEU – 8,54: Iedereen wil een lang, gelukkig en gezond leven, en wetenschappers proberen dat mogelijk te maken. Zij pakken enkele van de belangrijkste actuele gezondheidsproblemen aan, evenals opkomende bedreigingen zoals de toenemende gevolgen van de ziekte van Alzheimer, diabetes en antibioticaresistente 'superbugs'. Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en onze gezondheidszorgstelsels levensvatbaar te houden. Dit zal artsen de middelen geven die zij nodig hebben voor meer gepersonaliseerde geneeskunde, en het zal de preventie en behandeling van chronische en infectieziekten versterken. Statistische machinevertaling van ALPMAVIS, 2014 09 19, BLEU – 17,59: Iedereen wil een lang, gelukkig en gezond leven, en wetenschappers proberen dat mogelijk te maken. Zij houden zich bezig met enkele van de belangrijkste gezondheidsproblemen en opkomende bedreigingen, zoals de toenemende gevolgen van de ziekte van Alzheimer, diabetes en antibioticaresistente 'superbugs'. Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en de levensvatbaarheid van onze gezondheidszorgstelsels te helpen waarborgen. Dit zal artsen de middelen geven die zij nodig hebben voor meer gepersonaliseerde geneeskunde, en het zal de preventie en behandeling van chronische en infectieziekten bevorderen. Google statistische machinevertaling, 2014 09 19, BLEU – 17,10: Ieder van ons streeft naar een lang, gezond en gelukkig leven, en wetenschappers doen er alles aan om dat mogelijk te maken. Zij pakken enkele van de belangrijkste gezondheidsproblemen aan, evenals nieuwe gevaren, zoals de toenemende gevolgen van de ziekte van Alzheimer, diabetes en antibioticaresistente "superbugs". Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en de duurzaamheid van onze gezondheidszorgstelsels te ondersteunen. Dit zal artsen de middelen geven die zij nodig hebben om meer gepersonaliseerde geneeskunde toe te passen en meer inspanningen te leveren om infectieziekten en chronische ziekten te voorkomen en te behandelen. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 12 Microsoft Translator (Bing) statistische machinevertaling, 2017 09 27, BLEU −16,68: Iedereen wil een lang, gelukkig en gezond leven, en wetenschappers doen er alles aan om dat mogelijk te maken. Zij bestrijden enkele van de belangrijkste huidige gezondheidsproblemen en ook nieuwe bedreigingen, zoals de ziekte van Alzheimer, diabetes en de groeiende impact van antibioticaresistente superbacteriën. Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en onze gezondheid en gezondheidszorgstelsels vitaal te houden. Dit levert de middelen die nodig zijn voor meer gepersonaliseerde geneeskunde en versterkt de preventie en behandeling van chronische en infectieziekten. De gepresenteerde fragmenten van machinevertalingen weerspiegelen de typische kwaliteit van machinevertaling bij het vertalen van algemene teksten. Veel betere vertalingen van algemene teksten worden alleen verkregen wanneer de te vertalen tekst ooit is gebruikt om het systeem te trainen. Een objectieve beoordeling van de vertaalkwaliteit van een MV-systeem is alleen mogelijk met teksten die nooit in de systeemtraining zijn opgenomen. We moeten erkennen dat de momenteel operationele statistische en regelgebaseerde MV-systemen algemene teksten naar het Litouws nog steeds slecht vertalen. 4. NEURALE MACHINEVERTALING In 2013 stelden Nal Kalchbrenner en Phil Blunsom voor om neurale netwerken te gebruiken voor machinevertaling (Kalchbrenner, Blunsom 2013: 1700–1709). Het idee om grafische processors van computers in te zetten voor de berekeningen van neurale netwerken bood mogelijkheden om praktische problemen op te lossen, waaronder machinevertaling. Voor de realisatie van neurale MV (NMV) worden miljoenen kunstmatige neuronen gebruikt. Het concept van NMV is vrij eenvoudig: de encoder zet de volledige zin in de brontaal in een vectorruimte van enkele honderden dimensies om in een zogenoemde gedachtevector16, die bestaat uit een reeks getallen en zo de betekenis van de zin weergeeft. In feite is deze vector een gevectoriseerde gedachte van de zin. De richtingen van vectoren die verwante objecten en ideeën weergeven, verschillen weinig van elkaar17. De decoder genereert op basis van de gedachtevector een vertaling. Zowel de encoder als de decoder zijn gebaseerd op recurrente neurale netwerken (Sutskever et al. 2014: 3104–3112; Cho et al. 2014: 1724–1734). 16 De term werd populair gemaakt door Geoffrey Hinton, een van de meest vooraanstaande ontwikkelaars van kunstmatige intelligentie. 17 Dit kan bijvoorbeeld worden aangetoond door te experimenteren met de vectorisatietool word2vec (Mikolov et al. 2013: 3111–3119). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 13 FIG. 3. De Vauquois-driehoek van neurale machinevertaling Figuur 3 toont het schema van neurale MV volgens de Vauquois-driehoek18. Er moet worden opgemerkt dat automatisch een hoog analyseniveau wordt bereikt, dat de interlingua benadert. Het NMV-systeem wordt getraind met behulp van parallelle corpora. Tijdens de training programmeren de recurrente neurale netwerken automatisch de morfologische, syntactische en semantische informatie in de zinnen, samen met regelmatigheden van verschillende niveaus die ze daarin hebben aangetroffen. Uiteindelijk is machinevertaling onafscheidelijk geworden van de ontwikkeling van kunstmatige intelligentie. Neurale machinevertaling ontwikkelt zich snel en levert veel betere resultaten op dan regelgebaseerde of statistische machinevertaling. Bij het onderzoeken van de mogelijkheden van NMV stuitte men al snel op een nieuw verschijnsel: neurale netwerken konden vertalen tussen taalparen waarvoor ze niet rechtstreeks waren getraind. Als een NMV-systeem was getraind om van taal A naar taal B te vertalen en ook van taal A naar taal C, kon het systeem eveneens van taal B naar C vertalen (Johnson 2017: 339–351), al was de vertaalkwaliteit iets lager. Dit verschijnsel kan worden aangeduid als zero-shotvertaling (Engels: zero-shot translation). Dit betekent dat het neurale netwerk van een MV-systeem tijdens de training een eigen interlingua ontwikkelt, die alleen voor het netwerk zelf begrijpelijk is. Eind 2016 werd neurale vertaling geïntroduceerd in Google Translate (GT). Zo ziet de neurale vertaling van ons illustratieve voorbeeld eruit (Google neurale MV, 2017 09 14, BLEU CI – 25,94): 18 Een weergave van neurale machinevertaling volgens de Vauquois-driehoek is opgenomen in de onlinepublicatie „Pure Neural Machine Translation” van SYSTRAN uit 2016. Online beschikbaar: http://www.systransoft.com/download/white-papers/systran-white-paper-PNMT-12-2016_2.pdf, (geraadpleegd op 2017 11 06). BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 14 Iedereen wil een lang, gelukkig en gezond leven, en wetenschappers doen er alles aan om dat mogelijk te maken. Zij pakken enkele van de belangrijkste huidige gezondheidsproblemen aan, evenals opkomende bedreigingen, zoals de toenemende impact van de ziekte van Alzheimer, diabetes en antibioticaresistente "superbugs". Investeringen in gezondheidsonderzoek en innovatie zullen ons helpen actief te blijven, nieuwe, veiligere en doeltreffendere behandelingen te ontwikkelen en onze gezondheids- en zorgstelsels levensvatbaar te houden. Dit zal artsen de instrumenten bieden die zij nodig hebben voor meer gepersonaliseerde geneeskunde en zo de preventie en behandeling van chronische en infectieziekten verbeteren. We moeten erkennen dat ons voorbeeld door het neurale netwerk onvergelijkbaar beter is vertaald dan door systemen voor regelgebaseerde of statistische machinevertaling. GT vertaalt voorlopig nog niet alles even succesvol; zo leverde de poging om Beauty requires no ornaments te vertalen Grožis nereikalingas papuošalams op. Door op vergelijkbare wijze te experimenteren, kunnen talrijke gevallen worden vastgesteld waarin GT erg slecht vertaalt; er valt dus nog veel te verbeteren. De Universiteit van Vilnius is van plan in 2018 te beginnen met de invoering van neurale machinevertaling van de nieuwe generatie voor het Engels, Litouws, Pools, Frans, Russisch en Duits. In het vertaalsysteem wordt automatische omzetting van tekst naar spraak geïntegreerd, evenals vertaling van in het Litouws gedicteerde tekst. 5. SLOTOPMERKINGEN De vooruitgang in machinevertaling is tegenwoordig onlosmakelijk verbonden met de vorderingen op het gebied van kunstmatige intelligentie. Wat de vertaalkwaliteit betreft, moeten alle klassieke MV-methoden worden verbeterd; de mogelijkheden zijn niet uitgeput en het is niet duidelijk waar hun grenzen liggen. De romantische periode van gemakkelijke successen is voorbij; heuristische wiskundige of technische methoden helpen niet altijd. Kinderen leren een taal als vanzelf, zonder inspanning, maar later wordt hun taalvaardigheid alleen verfijnd door grammatica te leren en literatuur te bestuderen. Het lijkt erop dat verdere verbetering van machinevertaling nauwelijks mogelijk is zonder een wezenlijkere betrokkenheid van taalkundigen. Die betrokkenheid wordt vergemakkelijkt door machinevertaalhulpmiddelen die zijn geïmplementeerd op open-sourceplatforms: bijvoorbeeld Apertium voor regelgebaseerde vertaling (Forcada ir kt. 2011: 127–144); Moses (Koehn ir kt. 2007b: 177–180), LetsMT! (Vasiljevs ir kt. 2012: 43–48) voor statistische vertaling; TensorFlow en OpenNMT voor neurale vertaling. We mogen hopen dat Litouwse taalkundigen hun krachten bundelen om de moderne uitdagingen van de computationele taalkunde aan te pakken, aangezien sommige daarvan van existentieel belang zijn voor onze taal. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 15 LITERATŪRA Banerjee S., Lavie A. 2005: METEOR: An Automatic Metric for MT Evaluation with Improved Correlation with Human Judgments. – Proceedings of Workshop on Intrinsic and Extrinsic Evaluation Measures for MT and/or Summarization at the 43th Annual Meeting of the Association of Computational Linguistics (ACL-2005), Ann Arbor, Michigan, 62–72. Bar-Hillel Y. 1958: Some linguistic obstacles to machine translation. – Proceedings of the Second International Congress on Cybernetics, Namur, 197–207. Bojar O. 2007: English-to-Czech factored machine translation. – Proceedings of the Second Workshop on Statistical Machine Translation, Prague, Czech Republic, 232–239. Brown P. F., Cocke J., Della Pietra S. A., Della Pietra V. J., Jelinek F., Mercer R. L., Roossin P. S. 1988: A statistical approach to language translation. – Proceedings of COLING 1988: The 12th International Conference on Computational Linguistics, Budapest, 71–76. Brown P. F., Della Pietra S. A., Della Pietra V. J., Mercer R. L. 1993: Mathematics of statistical machine translation: Parameter estimation. – Computational Linguistics 19(2), 263–311. Cho K., Bart van Merrienboer, Gulcehre C., Bougares F., Schwenk H., Bengio Y. 2014: Learning phrase representations using RNN encoder-decoder for statistical machine translation. – Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), Association for Computational Linguistics, Doha, Qatar, 1724–1734. Commission of the European Communities 1994: Final Evaluation Of The Results Of Eurotra: A Specific Programme Concerning The Preparation Of The Development Of An Operational Eurotra System For Machine Translation. DIANE Publishing Company, 1995, 194. Daubarienė A., Ziezytė G. 2013: Machine translation: translated texts in terms of standards of textuality. – Kalbų studijos 22, 55–61. Daudaravičius V., 2006: Pradžia į begalybę. Mašininis vertimas ir lietuvių kalba. – Darbai ir dienos: Pažangos šuoliai 45, 7–18. Daumas M. 1965: Les machines à traduire de Georges Artsrouni. – Revue d'histoire des sciences et de leurs applications, tome 18, n°3, 283–302. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 16 De Beaugrande R. A., Dressler W. U. 1981: Introduction to Text Linguistics, London: Longman, 270. Doddington G. 2002: Automatic Evaluation of Machine Translation Quality Using Ngram Co-occurrence Statistics. – Proceedings of the Second International Conference on Human Language Technology Research, San Francisco, CA, USA., Morgan Kaufmann Publishers Inc., 138–145. Forcada M. L, Ginestí-Rosell M., Nordfalk J., O'Regan J., Ortiz-Rojas S., Pérez-Ortiz J. A., Sánchez-Martínez F., Ramírez-Sánchez G., Tyers F. M. 2011: Apertium: a free/open-source platform for rule-based machine translation. – Machine Translation 25 (2), Free/Open-Source Machine Translation (June 2011), 127–144. Hajič J., Hric J., Kuboň V. 2000: Machine Translation of Very Close Languages. – Proceedings of the 6th Applied Natural Language Processing Conference, Association for Computational Linguistics, 7–12. Homola P., Rimkutė E. 2004: Artimų kalbų mašininis vertimas. – Kalbų studijos 6, 77–81. Hutchins J. 2004a: Two precursors of machine translation: Artsrouni and Trojanskij. – International Journal of Translation 16(1), 11–31. Hutchins J. 2004b: The Georgetown-IBM experiment demonstrated in January 1954. – Proceedings of the 6th Conference of the Association for Machine Translation in the Americas, AMTA, Washington, DC, 102–114. Johnson M., Schuster M., Le V. Q., Krikun M., Wu Y., Chen Z., Thorat N., Viégas F. B., Wattenberg M., Corrado G., Hughes M., Dean J. 2017: Google's Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation. – Transactions of the Association of Computational Linguistics 5 (1), 339–351. Kalchbrenner N., Blunsom P. 2013: Recurrent Continuous Translation Models. – Proc. of EMNLP, October, Association for Computational Linguistics, Seattle, Washington, USA, 1700–1709. Koehn P., Hoang H. 2007a: Factored translation models. – Proceedings of the Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning, ACL, 868–876. Koehn P., Hoang H., Birch A., Callison-Burch C., Federico M., Bertoldi N., Cowan B., Shen W., Moran C., Zens R., Dyer C., Bojar O., Constantin A., Herbst E. 2007b: Moses: Open source toolkit for statistical machine BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 17 translation. – 45th Annual Meeting of the Association for Computational Linguistics (ACL), Companion Volume, 177–180. Koehn P., Och F. J., Marcu D. 2003: Statistical phrase-based translation. – Proceedings of HLT-NAACL, 127–133. Kos K., Bojar O. 2009: Evaluation of Machine Translation Metrics for Czech as the Target Language. – Prague Bull. Math. Linguistics 92, 135–148. McCulloch W., Pitts W. 1943: A logical calculus of the ideas immanent in nervous activity. – Bulletin of Mathematical Biophysics 5, 115–133. Mikolov T., Sutskever I., Chen K., Corrado G. S., Dean J. 2013: Distributed Representations of Words and Phrases and their Compositionality – Proceedings of the 26th International Conference on Neural Information Processing Systems, Lake Tahoe, Nevada, Vol. 2, 3111–3119. Mitamura T., Nyberg E., Carbonell J. 1991: An efficient interlingua translation system for multi-lingual document production. – Proceedings of Machine Translation Summit III, Washington, DC. Perspausdinta: – Progress in Machine Translation, ed. S. Nirenburg, IOS Press, (1993), 105–118. Papineni K., Roukos S. Ward T., Zhu W. J. 2002: BLEU: a method for automatic evaluation of machine translation. – ACL-2002: 40th Annual meeting of the Association for Computational Linguistics, 311–318. Reifler E. 1960: The solution of MT linguistic problems through lexicography. – Proceedings of the National Symposium on Machine Translation, (February 2–5, 1960), ed. H.P. Edmunson, London: Prentice-Hall, (1961), 312–316. Rimkutė E., Kovalevskaitė J. 2008: Linguistic Evaluation of the First English-Lithuanian Machine Translation System. – Proceedings of the Third Baltic Conference on Human Language Technologies (2007), Kaunas, 257–264. Skadinš R., Goba K., Šics V. 2010: Improving SMT for Baltic Languages with Factored Models. – Proceedings of the Fourth International Conference Baltic HLT, Frontiers in Artificial Intelligence and Applications, Vol. 219, IOS Press, 125–132. Snover M., Dorr B., Schwartz R., Micciulla L., Makhoul J. 2006: A Study of Translation Edit Rate with Targeted Human Annotation. – Proceedings of the 7th Conference of the Association for Machine Translation in the Americas, Morristown, NJ, USA, 223–231. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 18 Sutskever I., Vinyals O., V. Le Q. V. 2014: Sequence to sequence learning with neural networks. – Proceedings of the 27th International Conference on Neural Information Processing Systems, Montreal, Canada, Vol. 2, MIT Press Cambridge, MA, USA, 3104–3112. Šveikauskienė D. 2005: Graph Representation of the Syntactic Structure of the Lithuanian Sentence. – Informatica 16 (3), 407–418. Toma P. 1977: Systran as a multilingual machine translation system. – Proceedings of the Third European Congress on Information Systems and Networks, Overcoming the language barrier, München, 569–581. Vasiljevs A., Skadiņš R., Tiedemann J. 2012: LetsMT!: a cloud-based platform for do-it-yourself machine translation – Proceedings of the ACL, System Demonstrations, Jeju Island, Korea, 43–48. Vauquois B. 1976: Automatic translation – A survey of different approaches. – COLING-76, Ottawa. Perspausdinta: – Readings in machine translation, eds. S. Nirenburg, H. L. Somers, Y. Wilks, MIT Press, (2003), 333–337. Weaver W. 1949: Translation. – Perspausdinta: – Machine Translation of Languages, MIT Press, Cambridge, MA. (1955), 15–23. Įteikta 2017 11 13 Priimta 2017 12 20 MACHINE TRANSLATION FOR LITHUANIAN LANGUAGE Summary The paper presents a historical overview as well as current state of the art of the machine translation. Translation from another language is always a certain intellectual challenge. In 1949 Warren Weaver suggested using computers to translate texts. The term "machine translation" (MT) appears. Machine translation has been rapidly developing during the first decades in order to gain a strategic advantage in the Cold War. Most popular translated languages were Russian and English. Word-to-word translation and large bilingual dictionaries covering more than 170,000 words prevailed. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351–7204 DANIELIUS ALGIRDAS RALYS. Masininis vertimas lietuvių kalbai | 19 In the 1950s and 1960s, machine translation systems appeared which could be called rule-based. They are based on the assumption that a language can be described using a set of rules (including grammatical). It was a rather optimistic period – it was expected to create a perfect machine translation in a few years. But a computer hardly "understands" grammar. Highly inflected languages require tens of thousands thoroughly hand-tuned and mutually consistent rules. Nobody has done this properly yet. The most advanced systems were the SYSTRAN MT system, launched in the European Commission and the Russian PROMT translation system. Subsequently, the rule-based MT progress slowed down. The EUROTRA project (1982–1992), by some estimates costing more than 50,000,000 ECU, fails – even hundreds of recruited specialists failed to create a functioning MT system. This marked a serious rule-based MT crisis. Development simply stalled for many forthcoming years. The question was raised: if we cannot write so many rules, can it be translated without grammar at all? In 1990 a new breakthrough emerges – the research team at the IBM Thomas J. Watson Research Center formulates the basics of statistical machine translation. The translation process has been considered as a transmission of a certain message over a noisy channel. Decoding then has been performed on the basis of the Bayesian theorem. Translation is based on text corpora, especially on large parallel bilingual text corpora. There was a rapid improvement of statistical MT. The EuroMatrix project, supported by the European Commission, has created a universal open source machine translation software package MOSES, based on industry-level MT systems. Good results have been obtained – it turns out that you can translate without any dictionary or grammar! This method has greatly facilitated the translation of highly inflected languages too. The achievements of machine translation today are effectively applied to the Lithuanian language as well. During 2005–2007 Vytautas Magnus University has carried out an EU-funded project "Internet Information Translator". The result was a public online translation service from English to Lithuanian. (http://vertimas.vdu.lt/twsas/). The rule-based translation engine was provided by the Russian company PROMT, while other linguistic resources were prepared in Lithuania. The overall quality of text translation in BLEU metrics (in percent) is about 10. In practice, this means that only every third sentence can be adequately understood. This translation tool still has considerable potential for improving, for example by expanding phrase dictionary. Since September 25, 2008 Google Translate also supports Lithuanian. According to the results of the tests (2014), the BLEU translation quality was estimated to be around 17. BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204 DANIELIUS ALGIRDAS RALYS. Mašininis vertimas lietuvių kalbai | 20 2012–2014 Vilnius University implemented the EU-funded project "Creation of English-Lithuanian-English and French-Lithuanian-French machine translation system based on statistical methods". The result was a public online translation service (https://www.versti.eu/). According to the tests carried out in 2014, the BLEU estimates of the translation quality exceeded more than twice the rule-based translation results and were practically equivalent to the Google translation system. When translating the documents of certain domain (such as law) the achieved BLEU score is roughly twice as high as translating general texts and far exceeds Google's results (19-09-2014). However, even the best machine translations often require human intervention and final editing in order to get the perfect translation. So, can machines ultimately translate fine? The last few years promise new breakthroughs using a neural machine translation. Neural networks themselves construct transformation rules. It is likely that in the near future the neural MT systems will translate better than an average translator. In 2018 Vilnius University is preparing to launch the EU-funded project of a new generation neural machine translation of English, Lithuanian, Polish, French, Russian and German. Thus, the latest achievements in machine translation apply to the Lithuanian language as well. KEYWORDS: Lithuanian, machine translation, computational linguistics, history, neural networks, artificial intelligence. DANIELIUS ALGIRDAS RALYS Vilniaus universiteto Taikomųjų mokslų institutas M. K. Čiurlionio g. 29, 03100 Vilnius [email protected] BENDRINĖ KALBA 90 (2017) www.bendrinekalba.lt ISSN 2351-7204