PPDL: op LLM gebaseerde flows als probabilistische programma's

Het bouwen van betrouwbare toepassingen die gebruikmaken van grote taalmodellen (LLM's) blijft een flinke uitdaging. LLM's leveren indrukwekkende prestaties op uiteenlopende taken, maar hun output is vaak onnauwkeurig en biedt geen duidelijke betrouwbaarheidsmaat. Deze onzekerheid stapelt zich op in ketens van meerdere LLM-aanroepen en andere tools, waardoor ontwikkelaars en eindgebruikers de resultaten moeilijk kunnen vertrouwen. Dit artikel introduceert een probabilistische programmeertaal voor het modelleren van dergelijke ketens.