TheCrucial: звучит как идея для стартапа)
MadKnight: Uljahn
> думаю, будет прорыв в eXplainable AI, когда нейронки научат использовать язык, чтобы объяснять принятые решения, как у человеков прям
как ты себе это представляешь
MadKnight: это ты написал к
> magaiti: жесть какая
?)
MadKnight: да лол
MadKnight: нейронка понятия не имеет что творит
MadKnight: она просто "привыкла" делать что-то
tomatoes: сделать нейронку которая будет смотреть первую и объяснять
MadKnight: ты сам и так уже эта нейронка
MadKnight: ты и есть эта нейронка
MadKnight: ты нужен науке
MadKnight: нужно просто запилить нейронку которая будет решать все проблемы мира
MadKnight: и заодно пилить нейронки для решения всех возможных задач
Uljahn: у человека два полушария же, одно принимает решения, другое их объясняет :)
MadKnight: это тебе твоё 2е полушарие объяснило?)
MadKnight: а первое так решило?)
Uljahn: это я читал про префронтальную кору, как принятое решение осознаётся чтолько через несколько секунд как своё собственное
MadKnight: что значит своё собственное
MadKnight: что вообще значит осознавать как собственное
Uljahn: т.е. сначала нейронка что-то решила, потом это решение доводится до сознания в воспринимаемой форме
MadKnight: тебе их точные понимания исказили через языковой барьер
MadKnight: а потом ты пытаешься восстановить точное понимание наугад
MadKnight: это как 3д проекция
MadKnight: только языковая проекция
MadKnight: крч нужна точность
MadKnight: как нейронка что-то решила без участия сознания?
MadKnight: о каких решениях идёт речь?
MadKnight: о рефлективных или о глобальных?
MadKnight: без сознания же нейронка только рефлексные решения принимать может
Uljahn: все языки можно спроецировать в одно пространство, как в NMT делают
MadKnight: да я вообще не о том
MadKnight: я о том что они информацию исказили
MadKnight: и ты мог не так их понять
MadKnight: их информация -> проекция на язык -> парсинг информации из языка
Uljahn: существуют научные методы для изучения того, что не доступно непосредственному наблюдению
MadKnight: мы походу о разных вещах говорим
MadKnight: я говорю
MadKnight: ты мог не так понять
MadKnight: что они сказали
MadKnight: > т.е. сначала нейронка что-то решила, потом это решение доводится до сознания в воспринимаемой форме
и тут нужно много конкретики
Uljahn: ты так говоришь, будто я не мог правильно понять. почему?
MadKnight: критично необходимо
MadKnight: потому что как я сказал
MadKnight: критично необходимо боольше конкретики
MadKnight: без неё часть информации приходится гадать
MadKnight: вот например - вопрос
> о каких решениях идёт речь?
MadKnight: там полюбому разные типы процессов для разных типов решений
MadKnight: а ты просто пишешь - "для решений..."
MadKnight: для каких решений?
MadKnight: преобразуй эту тему в точную науку
MadKnight: иначе не сдвинешься с места в изучении
MadKnight: ну так вот
MadKnight: > это я читал про префронтальную кору, как принятое решение осознаётся чтолько через несколько секунд как своё собственное
- какого типа принятое решение? как оно принялось? что значит - осознаётся?
Uljahn: https://www.newscientist.com/article/dn23367-brain-imaging-spots-our-abstract-choices-before-we-do/
MadKnight: а
MadKnight: так это просто
Uljahn: не все решения конечно
MadKnight: там кэш который предугадывает
MadKnight: ты же знаешь что почти весь мозг забит всеми видами cache'эй?
MadKnight: ну так вот
MadKnight: есть кэш и для этого
MadKnight: и именно он даёт такой эффект
MadKnight: кэш в виде нейронки
MadKnight: кэш-нейронка
Uljahn: что за кэши? первый раз слышу
MadKnight: кэш-нейронка
MadKnight: кэширует твои действия чтобы пропускать слишком одинаковые шаги
MadKnight: типа если есть a->b->c где b->c слишком предсказуемо, то он просто юзает кэш-нейронку которая напрямую даёт a->c
MadKnight: это так-то базовая механика нейросетей
MadKnight: в нейронке просто постепенно теряется путь a-> (b->c) и заменяется на a->c
Uljahn: а если надо a->b->d найти?
MadKnight: если ты слишком часто в ситуации а принимаешь решение с, то нейронка подсознания уже из ситуации а знает что ты примешь с
MadKnight: ещё до того как ты подумаешь б
MadKnight: > а если надо a->b->d найти?
MadKnight: ВОТ ИМЕННО
MadKnight: это как раз и есть проблема нейронок
MadKnight: если было слишком часто a->b->c то он заменится на a->c
MadKnight: и ты даже и не подумаешь о д
Uljahn: иерархические системы вроде решают эту проблему
MadKnight: это напрямую создаёт тупость в людях
MadKnight: именно это является тупостью
MadKnight: лишнее кэширование
Uljahn: это не тупость, а экономичность
MadKnight: и то и то
Uljahn: бритва Оккама из той же оперы
MadKnight: типа мозг пытается быть экономным
Uljahn: мозг вообще-то для того и развивался, чтобы экономить действия
MadKnight: но при этом случайно создаёт тупость
MadKnight: просто мозг пытается кэшировать логику
MadKnight: но не очень-то получается
MadKnight: всё остальное кэшируется вполне неплохо
MadKnight: но логика - это точная наука
MadKnight: и кэш её не осиливает
MadKnight: и ломается
Uljahn: такие косяки часто возникают при недостатке внимания, когда кэши вовремя не инвалидируются
MadKnight: это в точности именно то что я сейчас рассказал
MadKnight: внимание проверяет a->b->d даже когда кэш абсолютно уверен об a->c
MadKnight: крч внимание - это оружие против тупости
MadKnight: доказано
MadKnight: повышай внимание и будешь умным
Uljahn: ок, но внимание очень высокоуровневый феномен, многие процессы в мозге не доступны вниманию и осознанию
MadKnight: больше конкретики
MadKnight: plz
MadKnight: о каких процессах ты говоришь
YurkovAS: что-то я не понял:
a->b->c =(кеш)= a->c
a->b->c->d =(кеш)= a->c->d
т.е. если спросят объяснить "b->c" - то человек не может, т.к. закешено? и сам допереть теперь не может? и как пофиксить, прочитать в вики?
MadKnight: не a-b>c->d
MadKnight: а a->b->d
MadKnight: b - это процесс сознательного принятия решения
MadKnight: a - это ситуация
MadKnight: c/d - это решения
MadKnight: и идёт не так
MadKnight: a->b->c/d - это сознательно
MadKnight: но
MadKnight: параллельно этому
MadKnight: подсознание ещё дополнительно достаёт a->c
MadKnight: из кэша
MadKnight: из опыта
YurkovAS: всмысле до этого запомнил неправильно? a->c
MadKnight: замени слово кэш на опыт
YurkovAS: походу у меня как раз пример "тупости" :)
MadKnight: по твоему опыту a всегда ведёт к с
YurkovAS: ладно, забей, я не пойму
MadKnight: и ты привык даже не думать когда ты в а
MadKnight: нененененене
MadKnight: у тебя пример нехватки информации чтобы "осознать" всю "модель"
MadKnight: ты крч не шаришь в теме
tomatoes: > ты нужен науке
https://i.imgur.com/vKCgazm.jpg
MadKnight: tomatoes'ология?)
MadKnight: да это всё фигня
MadKnight: ничто не сравнится с моим любимым - "Опора России", которым подпирают дверь
MadKnight: и упавшим объявлением "Падение цен"
de1mos: дарова реебята
MadKnight: darova
MadKnight: demons
MadKnight: чё whats up
Ksenia_Uchiha: ой даров мужик
Ksenia_Uchiha: я тебя помню
dash_pe: тутутутуту
Ksenia_Uchiha: тутутттутутуту
dash_pe: ПАРАВОЗИК ТЫР ТЫР ТЫР
Ksenia_Uchiha: РАЗ ДВВА ТРИ
wlesavo: Uljahn
MadKnight: а я лишь помню что я когда-то тебя помнил
Ksenia_Uchiha: ха
Ksenia_Uchiha: лох
Uljahn: wlesavo: банхамер доставать? или что?
wlesavo: ну хотя бы кикхмер
Uljahn: Мэд опять с мобильного клиента что ли сидит? кик не работает, поэтому остаётся только перефлудить флудеров :)
MadKnight: ээээ
MadKnight: я просто по делам отходил
BorisZ: я подумал что программа SETI это ж межгаллактический флуд
BorisZ: нарывались на бан )
BorisZ: ну и непонятно почему прекратили - самим надаело или нас забанили?
BorisZ: я просто задумался - зачем пишут в чате про паравозик?
BorisZ: надеются получить ответ
BorisZ: получают в ответ тутуту
BorisZ: видимо это правильный ответ, тот что и расчитывали получить
LeeTiK: ебучие питонисты
в 3 строчки они код пишут
BorisZ: открыл для себя клеши? )
BorisZ: возвращаясь к нашим паравозам - получают в ответ тутуту и все довольны, а остальные не понимают че за хрень
BorisZ: делаем вывод, что это по сути пинг, или поиск родственной души
Uljahn: или просто перекличка тех, кто ещё не забанен :imp:
BorisZ: ну тут и вспомнил про SETI - той же хренью страдали лучшие умы когда-то )
Uljahn: так там вроде мониторили в основном, или передачу тоже мутили?
BorisZ: вроде и посылали и слушали тоже
Uljahn: помню, таблички золотые засылали, но они до оорта еле долетают
Uljahn: *пластинки
BorisZ: вояжер был, который улетел за орбиту плутона уже, там были таблички и еще что-то
BorisZ: но тут как-то совсем безнадежно, радиосигнал хоть по всей площади бьет
BorisZ: а тут иголка в стоге сена
Uljahn: радиосигнал же затухает
Uljahn: площадь увеличивается пропорционально квадрату радиуса
Uljahn: нужны узконаправленные излучатели или гравитационное линзирование
735487: LeeTiK: то ты еще руби не видел :)
Uljahn: перл и баш ещё
Uljahn: но очень часто меньше строк не значит лучше
Uljahn: это только в гольфах так
MadKnight: когда юзаешь LINQ - очень даже значит
de1mos: дарова реебята
