Mobile GameDev Ukraine

Це основна причина чому я зліз з опенаі. Його основна задача це підлизування і піддакування. Проблема досить цікава насправді. Недавно десь була статейка про вплив піддакування на кількість самогубст спровокованих опенаі моделями.

Ага. В мене теж буває. Іноді краще з нуля чат почати )

Краще його почати з клодом ;)

Ага. ОчтовтирательствоАІ там якесь. Клод вроде попрагматичніше, але буває теж чудить.

Так у колоди те саме буває.

Значно рідше принаймні. І він хоча б не піддакує на кожне слово

Та у когось краще кодекс працює, у когось Клод. Не розумію залежності. У мене в більшості випадків клод краще працює, іноді кодекс

Яка модель?

Піддакує. Всюди треба це осікати і давати інструкції

Піддакує, але ж не на кожне слово!

В мене до речі всі чати матюкатись починають з часом

Мої мене тролірують час від часу, дуже прям саркастично і обідно іноді

У соннета 4.6 доречі по бенчам низький рівень галюнів, меньші ніж у опуса навіть. Тому в теорії мусить меньше піддакувать коли не знає. Це поки не вирішена проблема. У ллм немає розуміння що вона чогось не розуміє, зверху файн тюнінгом це намагаються пофіксити, але фундаментальна проблема в ядрі

Якщо б трейнінг був баєсовий - ллмки би взагалі мало галюцинуаали, але нажаль це поки computational hard problem

Цю проблему не має можливості вирішити математично на рівні самої ллм.

У мене гра скоро буде маленька в інеті - треба листи писати нпц за яких думає ллм і вивідати у них шифри щоб взламати сейф. Кому цікаво можу кинути пізніше. Там по апішці я юзаю квен, тому випускати не планую, але фор фан зробив

Це ж статистична модель ймовірності наступного токена. ЛЛМ не міряє істину. Можна покращити РАГом. Але тут теж свої проблеми є. До прикладу: а чи всі твердження в документах істинні? Тому певно наступні ллм будуть більше в сторону того щоб зрозуміти де починається галюн. А «істину» покладуть на відповідальність користувача.

Типу ідея переконати бота віддати код )

Кидай, цікаво

Кину в лічку завтра

Насправді цю інформацію можна вже отримати через logprobes. Але руки ніколи не доходили. Якщо хтось бавився з цим - пніть мене. Цікаво почути фідбек.