Hoe herkent u een verzonnen uitspraak?

Wat is een hallucinatie?

Een taalmodel voorspelt welke tekst waarschijnlijk volgt. Het “weet” niet of een uitspraak bestaat. Daardoor kan het een verwijzing maken die klopt qua vorm, maar niet bestaat of iets anders zegt. In juni 2023 kregen in de Verenigde Staten twee advocaten en hun kantoor een boete van $ 5.000, omdat ze in een processtuk uitspraken aanhaalden die ChatGPT had verzonnen (Mata v. Avianca). Het risico is reëel.

Zeven signalen van een verzonnen bron

1. Het ECLI-nummer bestaat niet. Een ECLI heeft een vaste opbouw, zoals ECLI:NL:HR:2024:XXXX (land, instantie, jaar, volgnummer). Een nummer dat niet te vinden is, is een alarmsignaal.
2. Instantie en datum passen niet bij elkaar. Bijvoorbeeld een uitspraak van de Hoge Raad op een datum waarop dat nummer bij een ander gerecht hoort.
3. Het citaat is niet terug te vinden. De uitspraak bestaat, maar de geciteerde zin staat er niet in.
4. Het past té mooi. Een uitspraak die precies uw standpunt bevestigt, in precies uw woorden, verdient extra controle.
5. Vage verwijzingen. “Vaste rechtspraak” of “de Hoge Raad heeft bepaald” zonder concrete vindplaats.
6. Het wetsartikel bestaat niet. Of het nummer bestaat, maar gaat over iets heel anders.
7. De bron is verouderd. Een uitspraak die later is achterhaald, of een wetsartikel dat inmiddels is gewijzigd.

Zo controleert u een verwijzing

• Uitspraken: zoek het ECLI-nummer op in de uitsprakendatabank van de Rechtspraak (uitspraken.rechtspraak.nl). Let op: niet alle uitspraken worden gepubliceerd, dus “niet gevonden” betekent nog niet “verzonnen”, wel “nakijken”.
• Wetsartikelen: kijk in de actuele wettekst op wetten.overheid.nl, en controleer welke versie gold op de datum die voor uw zaak telt.
• Citaten: open de bron en zoek de zin letterlijk op.
• Actualiteit: kijk of een uitspraak later is gevolgd, genuanceerd of achterhaald.

Hoe Legal Momo hierbij helpt

De bronnencheck van Legal Momo herkent de wetsartikelen, uitspraken en kamerstukken in een tekst en zoekt ze op met een vaste zoekfunctie zonder AI. Elke verwijzing krijgt een van vier statussen: gevonden, mogelijk verouderd, niet gevonden of handmatig nakijken. Zo ziet u meteen waar u extra moet kijken. Het lezen en beoordelen van de bron blijft uw werk.

Dit artikel geeft algemene informatie en is geen juridisch advies. Wetgeving en beleid kunnen veranderen; controleer altijd de actuele stand.