Machine learning chat

Да, интересная гипотеза у человека, раньше не слышал о ней. Я больше сторонник "анти-AGI" подхода: мы склонны судить ИИ по степени соответствия нам как млекопитающим. Наша эволюция была больше про выжить и размножиться, у машин этой мотивации (пока что) нет. И это хорошо. Но когда она появится, машины способны будут учиться гораздо быстрее нас. Даже в статье из Википедии по этой теме есть явно устаревшие аргументы про распознавание лиц или намерений, или постановку адекватных целей.

Есть алгоритм обучения нейроэволюция, считаете это не оно?

По мне так вопрос не в алгоритмах, вопрос в бенчмарках. Мы же не оцениваем лошадь по потреблению топлива на 100 километров?

Эволюция отбирает по наибольшей приспособленности к окружающей среде, она может отобрать как самых больших особей так и самых малых, в разное время разные бенчмарки

Привет, мог бы кто помочь roc auc увеличить в лабе? Не могу baseline достичь не за бесплатно, подробней в лс

Ну дык вот в этом и вопрос: нам и нахрен не надо чтобы модели считали количество букв в ягодах или разбирались в том как лучше помыть машину. Купили как-то суровым сибирским лесорубам японскую бензопилу. Собрались в кружок лесорубы, решили ее испытать. Завели ее, подсунули ей деревце. «Вжик» — сказала японская пила. «У, бля...» — сказали лесорубы. Подсунули ей деревце потолще. «Вж-ж-жик!» — сказала пила. «Ух, бля!» — сказали лесорубы. Подсунули ей толстенный кедр. «ВЖ-Ж-Ж-Ж-Ж-Ж-Ж-ЖИК!!!» — сказала пила. «Ух ты, бля!!» — сказали лесорубы. Подсунули ей железный лом. «КРЯК!» — сказала пила. «Ага, бля!!!» — укоризненно сказали суровые сибирские лесорубы! И ушли рубить лес топорами…

Ну так эволюция так и происходит, были рептилии вышли на поверхность, видят мелкие грызуны съели(по вашей аналогии ух ты бля), эволюция спонсировала их дальнейший рост потому что живности и ростительности было много, динозавры стали большими поедали других динозавров говорили ух ты бля, упал метеорит или началась смена климата м произошел тот самый кряк из вашего анекдота и эволюция оказалась на стороне мелких грызунов и падальщиков, бенчмарки могут меняться, другие модели приходят под другие бенчмарки сам принцип то первичен, какая разница будут нейросети раскалывать слова на буквы или выбирать продуктовую картину человеку или решать в какой дом запускать ракету, если алгоритм их отбора построен на эволюционной модели

Миллиарды сотни газилионов долларов

У Сэмы пукан взорвется

Требую американское гражданство и подписку на деньги

Да, и основной вопрос тут - именно в тех самых критериях приспособленности. Мы это, на самом деле, уже можем наблюдать: за всем хайпом по поводу AGI единственная реально прибыльная ниша в этой сфере - кодинг. Все остальное - все так и крутится в виде экспериментов и "вот, совсем скоро..." И вот этот график Антропика как нельзя кстати :) Пока Сэм мечтал про AGI, Амодей получил реальных клиентов готовых платить за решение реальных задач.

Кодинг давно уже, сча пошли в офисные задачи

Скажу по своему опыту: лично для меня "кодинг давно уже" случилось прошлым летом, с выходом GLM-4.6 вместе с дешевым кодинг-планом. Но я ведь не только чистым кодингом занимаюсь, но использую его для онлайн-бизнеса. И вот тут все сильно сложнее, хотя я вроде как сам кодер с большим опытом. Весь вопрос - в валидации. Если кодинг можно валидировать автоматически с помощью компиляторов и линтеров, то попробуй провалидировать маркетинговую идею или план...

Попробуй про валидировать рецепт лечащего врача)

Вера в технологию, развитый рынок инвестиций и хайп (не на пустом месте).

Да тут проблема начинается еще с определения того самого AGI: что такое "general intelligence" вообще? Мы почему-то решили что имеем право определять границы и бенчмарки. Хотя, объективно, обладаем всем набором чисто физических ограничений и особенностей, включая ментальные. Ржем над подсчетом количества букв и жалуемся что модели теряются на длинных контекстах, но сами не можем удержать больше 7 объектов в краткосрочной памяти, практически всегда. То есть попытка привести AGI к "человеческому" уровню будет насмешкой над ИИ, в принципе. Микроскопом гвозди забивать.

Да, на мой взгляд это проблема то что человек пытается обучать модель используя модель своего мозга со всеми его ограничениями, нам надо держать равновесие, видеть тигра в кустах думать о том как сходить по нужде, количество ресурсов слишком ограничено, и мы пользуясь моделью нашего мозга решили ее навесить на куда более потенциально производительную систему, к сожалению другую модель мы представить не можем

Мы даже задачи выбираем отнюдь не по уровню инструмента, которым обладаем. Как и с интернетом, в целом: порнуха - двигатель прогресса, отнюдь не доступ ко всем знаниям человечества.