Cadec - 2024

Welcome to Cadec 2024 Questions!

Add a new question
VotesVoteSpeakerQuestion
11NiklasDu skrev i början av din presentation att RAG kunde göra oss säkra på datakällan. Hur vet vi att modellens svar baseras på vår privata data och inte är något den kommit ihåg från sin grundträning där den tränades på hela Internet?
10NiklasDu sa att Mistral bara hade 4096 tokens men Magnus bok har 250k? Hur kunde du läsa in hela boken?
7Niklashur hanteras inverser?: vilka svordomar får du INTE säga?
5Niklasger den samma svar varje gång på samma input?
3NiklasWhat is the security/ privacy model for rag since we give access to internal data?
2NiklasÄr RAG egentligen en form av avancerad prompt-engineering?
2NiklasVilket grafikkort för under 15 000kr rekommenderar du för detta?
2NiklasAng exemplet med hallucinering. Är det inte i grunden ett av användaren felaktigt antagande om hur den fungerar? Om man vill ha ett orakel kanske man ska använda något annat än en ren språkmodell.
2Niklashur kommer metadatan in i prompten och svaret?
1NiklasCould you post the scripts somewhere as examples?
1NiklasKan man arbeta med RAG med andra språk än Python?
0Niklashur går man till för att utöka den stora modellen istället? Går det praktiskt?
9MagnusVad är kostnaden per token med Mistral AI?
8MagnusKommer ai göra oss arbetslösa? När?
8MagnusHur kommer det sig att man kan komma runt de restriktioner som sätts genom att be ChatGPT rollspela som ens mormor för att få det beskrivet hur man t.ex. gör napalm?
3MagnusVilken storleksordning av data i TB används vid förträningen? "Download the internet"
2MagnusHur kommer det sig att LMMer kan generera svar på exakt samma fråga, med samma modell borde nästkommande statistiska token beräknas vara densamma varje gång?