Nie możesz zbudować sztucznej inteligencji poszukującej prawdy, jeśli nie możesz prześledzić, skąd pochodzi prawda. Odchylenie modelu to problem związany z trenowaniem, dostrajaniem i wyszukiwaniem w czasie rzeczywistym. W przypadku modeli, agentów i systemów RAG pochodzenie jest obowiązkowe. Brak śledzenia źródeł oznacza brak wiarygodności. Brak rodowodu oznacza brak zaufania.
Chaos Labs
Chaos Labs17 lip 2025
Modele sztucznej inteligencji uczą się tego, co najczęściej się powtarza, a nie tego, co jest prawdziwe. @NEARProtocol współzałożyciel @ilblackdragon i nasz dyrektor generalny wyjaśnia@omeragoldberg ją, dlaczego pochodzenie danych, reputacja źródła i opieka nad społecznością mają kluczowe znaczenie dla budowania godnej zaufania sztucznej inteligencji.
4,51K