ai geeft deels onzin

[Joppla]

de ai app aan wat testen onderworpen en geeft veel onzinnige infomatie. het lijkt er veel op dat het nep bronnen zijn.

de app beweert dat er in zuid holland in de buurt van leiden een dorp Meurs-Sint-Bertrand zou liggen, maar alle links die dat zouden kunnen onderbouwen blijken niet te werken…

[Verryx-02]

For the mantainers

I translated the issue from Dutch to English using Google Translate.
I hope this helps.

Issue traslated:

The AI ​​app has been subjected to some testing and provides a lot of nonsense information. It seems very likely that the sources are fake.

The app claims that there's a village called Meurs-Sint-Bertrand in South Holland near Leiden, but all the links that could substantiate this claim appear to be broken.

[thomasboom]

As someone who speaks Dutch natively, I can verify that those translation are correct

[thomasboom]

Hallo @Joppla, het hallucineren van antwoorden is helaas een fundamenteel onderdeel van AI-modellen en dit is geen probleem dat je “even” oplost. Grote AI-labs werken hier continu aan om feitelijk betrouwbaardere antwoorden te krijgen, maar omdat Proton speciale open-sourcemodellen gebruikt, lopen ze hierin iets achter. Daar kunnen zij zelf weinig aan doen. Hierbij verzoek ik je dan ook om deze issue te sluiten. Zou je dit gesprek in het Engels willen voortzetten? Dat maakt het voor iedereen duidelijker.

Hello @Joppla, hallucinating answers is unfortunately a fundamental part of AI models, and this is not a problem that can be “quickly” solved. Major AI labs are continuously working on improving factual reliability, but because Proton uses specialized open-source models, they are somewhat behind in this area. There is little they can do about that. I therefore request that this issue be closed. Could we please continue this conversation in English? That would make it clearer for everyone.