• Транспорт • Мода • Рецепты • Блоги • Охота • Путешествия • Спорт • Веселье • Своими Руками • IT • Знания
Мини-Игры
x

x
zakruti.com » ru » Знания, наука, образование » ПостНаука
Мышление рядом с ИИ, когнитивная разгрузка и доверие к LLM  Мария Фаликман - Мыслить как ученый #65

Мышление рядом с ИИ, когнитивная разгрузка и доверие к LLM Мария Фаликман - Мыслить как ученый #65

VKTwitterOK

содержание видео

Рейтинг: 4.0; Голоса: 1
Что происходит с памятью, вниманием, решением задач и мышлением человека, когда у него всегда под рукой языковая модель Разбираем с Марией Фаликман когнитивным психологом, доктором психологических наук и профессором The University of the South. Говорим, как технологии становятся частью человеческого познания: от узелков на память, письменности и калькулятора до интернета и больших языковых моделей. Обсуждаем идеи Льва Выготского, интериоризацию и новую экстериоризацию, расширенное познание и когнитивную разгрузку. Где проходит граница между ИИ как инструментом, который расширяет возможности человека, и ИИ как протезом, который выполняет когнитивную работу вместо нас Разбираем, почему мы склонны доверять системам, которые считаем компетентными, и как использование ИИ создает иллюзию собственной компетентности. Обсуждаем исследования восприятия текстов, созданных человеком и искусственным интеллектом, антропоморфизацию нейросетей, агентность и делегирование решений. Почему чем лучше нам кажется ИИ, тем меньше усилий мы можем прикладывать сами Лекции Марии Фаликман на ПостНауке: Поддержать ПостНауку: Boosty: Patreon: Курсы Академии ПостНауки: По вопросам рекламы коммуникационное агентство ПостНаука. Specials: Следите за ПостНаукой на других площадках: Naukka Talents платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: Таймкоды: 00: 00 О чем выпуск 03: 38 Выготский: технологии как орудия мышления 06: 37 ИИ инструмент или самостоятельный агент 10: 31 Расширенное и замещенное познание 15: 17 Зона ближайшего развития и ИИ 18: 47 Что такое интериоризация 19: 10 Как цифровые технологии выносят мышление наружу 22: 36 Как приручить сон 23: 37 Ложка, гаджет и освоение культурных орудий 26: 20 Как мы осваиваем культурные орудия 33: 20 Любознательность и некритическое потребление информации 36: 54 Почему нам нужно критическое мышление 39: 11 Поддержите ПостНауку 40: 29 От экспертных систем к интернету и LLM 46: 21 Кто отвечает за качество информации в интернете 51: 39 Когнитивная разгрузка: зачем мы делегируем задачи 53: 21 У каждой технологии есть издержки 57: 25 Какие навыки стоит сохранять в эпоху ИИ 01: 01: 33 Нужно ли отдавать ИИ задачи, которые мы умеем решать сами 01: 04: 49 Что происходит, когда ИИ делает всё за нас 01: 07: 02 Снижают ли технологии наши когнитивные возможности 01: 08: 44 Что такое человек в эпоху данных 01: 11: 50 Можно ли свести человека к набору данных 01: 14: 07 Почему мы доверяем цифровым помощникам 01: 16: 36 Где проходит граница делегирования ИИ 01: 17: 32 Забирают ли технологии нашу память и внимание 01: 20: 32 Доверие к ИИ, самоуверенность и сложные задачи 01: 23: 59 ИИ как инструмент и ИИ как протез 01: 26: 05 Важно ли, кто создал контент человек или ИИ 01: 30: 38 Как мы запоминаем машинный и человеческий текст 01: 36: 06 Почему один и тот же текст воспринимается по-разному 01: 38: 48 Почему мы антропоморфизируем ИИ 01: 46: 10 Чем опасен образ компетентной модели 01: 49: 16 Как пользоваться ИИ и не отдавать ему мышление 01: 53: 44 Заключение #мышление #когнитивнаяпсихология #искусственныйинтеллект
Дата: 2026-10-28

Комментарии и отзывы: 20


Почему вопрос ИИ помогает думать или думает за вас построен на смешении уровней.
Телефон: помогает вам разговаривать или говорит за вас Телефон не говорит за вас он передаёт ваш голос. Но если вы скажете в трубку я тебя люблю, а на том конце услышат это как ваши слова, значит, телефон сработал. Он не думает за вас, он делает вашу речь слышимой. Разница между помогает и делает за вас исчезает, когда вы смотрите на инструмент, а не на контур.
Автомобиль: перемещает ваше тело или перемещается сам Автомобиль перемещает вас, потому что вы выбрали направление и нажали педаль. Он не решает, куда ехать. Но если вы включили автопилот и он повёз вас не туда, вы всё равно скажете я приехал не туда, а не автомобиль приехал не туда. Значит, даже с автопилотом ответственность остаётся на том, кто задал маршрут. Вопрос думает за вас или помогает это вопрос о том, кто задал маршрут, а не о том, кто крутит руль.
Молоток: помогает вам забивать гвозди или забивает за вас Молоток не забивает он передаёт силу вашего удара. Но если вы промахнулись и попали по пальцу, вы не обвиняете молоток. Вы говорите я промахнулся. Инструмент не думает за вас, он усиливает то, что вы уже решили. Разница только в том, замечаете ли вы, что решили.
Книга: помогает вам думать или думает за вас Книга не думает за вас она даёт вам структуру, по которой вы можете думать. Но если вы прочитали и повторили, не поняв, вы скажете книга меня запутала. А если поняли книга помогла. Одна и та же книга, разные контуры. Значит, вопрос не в книге, а в том, что вы с ней сделали.
Очки: помогают вам видеть или видят за вас Очки не видят они меняют фокус. Но если вы в них смотрите не туда, вы всё равно не видите. Очки не решают, куда смотреть. Они лишь делают видимым то, на что вы уже направили взгляд. ИИ те же очки: он не решает, о чём думать, он делает видимым то, что вы уже выбрали.
Калькулятор: считает за вас или помогает считать Калькулятор считает быстрее вас, но он не решает, какую задачу решать. Вы вводите числа он выдаёт результат. Если вы ввели не то, виноват не калькулятор. Но если вы не понимаете, что он посчитал, это уже не калькулятор, это вы. Разница между помогает и думает за вас в том, понимаете ли вы, что происходит.
Компас: указывает вам путь или идёт за вас Компас не идёт он показывает направление. Но если вы не знаете, куда хотите, компас не поможет. Он не решает, куда идти. Он лишь делает видимым то, что уже есть: север. ИИ тот же компас: он не решает, куда вам, он показывает, где вы. Но если вы не знаете, куда хотите попасть, никакой компас не поможет.
Общий знаменатель всех аналогий. Вопрос помогает или думает за вас предполагает, что есть два разных режима: инструмент и субъект. Но в реальности есть контур, в котором инструмент и человек образуют систему. Вопрос не в том, кто думает, а в том, кто держит контур и кто сверяет. Если вы держите и сверяете ИИ помогает. Если нет он думает за вас, но не потому, что он такой умный, а потому, что вы отдали ему руль и не смотрите на дорогу. Так что вопрос из названия видео это вопрос не про ИИ, а про вас: вы держите контур или он держит вас.

ответить

Спасибо! Это было интересно.
Предположу, что будет интересно и мнение преподавателя, который обучает подростков использованию ИИ.
Определение своей личности Обезьяна приспосабливается к внешней среде, а человек внешнюю среду пытается изменить под себя.
Нужны ли крупные мозги У слона мозги большие, так как у него много мышц. У первобытного человека мозги были тяжелея мозгов землепашца.
У деревенского жителя было гораздо больше знаний, но горожанин с отличным ЕГЭ не выжил бы в его среде обитания. А вот при современной системе оценок интеллекта выигрывает горожанин.
Человека, способного использовать ИИ, не следует сравнивать с тем, кто не обращается к ИИ. Требуются другие критерии оценки.
Рост знаний породил рост профессий, так как все знания не умещаются в одной голове. Число профессий ограничено числом жителей на планете. Это породило спрос на ИИ. Эволюция создала язык, чтобы сформировать единое пространство для использования многих людей/интеллектов для совместной работы.
Не нужны импланты при наличии языковой связи между человеком и ИИ. Импланты останутся в медицине для людей при потери речи.
Я обучаю подростков умению использовать ИИ. Я формирую у них не рост объёма знаний, а гибридный разум.
Гибридный разум = разум человека ИИ.
Человек переводит наблюдаемые им явления в цифровую форму (к примеру, часы и градусник. ИИ ещё не смог самостоятельно перевести ни одного явления в числовую форму и не сможет, так как ИИ создаёт результаты в счётном множестве. К примеру, действительные числа образуют континуум. Множество континуум содержит бесконечное количество множеств счётной мощности.
Книги, речь, картинки переводятся в строки из 0 и 1, которые вводятся для работы ИИ. Там происходит составление миллиардов новых текстов, из которых идёт отбор самых правдоподобных.
ИИ это плагиатор высшей формы.
ИИ подобен гену для виртуальной среды в том смысле, что он содержит предыдущий опыт человечества, на базе которого идёт рост новейших знаний.
ИИ это переход в софиязойскую эру, когда человек сможет перейти к освоению космоса.
Это стало возможным благодаря гибридному разуму, для которого расстояния ограничены скоростью света, а не скоростью ракет. Робот на планете у другой звезды будет обладать частью гибридного разума человека с Земли.
Подростки,
получившие навыки работы с ИИ для своего субъективного гибридного разума,
готовят свои проекты к Дню софиязойской эры.
Учёба от объёма знаний перейдёт на учёбу формирования гибридного разума.

ответить

Интересно, что по данным многолетних исследований успеваемости учеников в школах за последние 50 лет количество отличников практически не изменилось (около 10%, а вот доля хорошистов упала с 4550% до 20%, а троечников стало больше с 2530% до 4550%. Также выросло количество двоечников с 10% до 2025%.
Думаю это тот самый результат когнитивной разгрузки. При этом. Топ-10% используют технологии как усилитель и держат уровень, а основная масса делегировала им само мышление и скатилась на ступеньку вниз (хотя в дневниках за счет домашек с ИИ и инфляции оценок у них всё ещё стоят 4 и 5.
Биологический принцип Парето в действии: в любой популяции от колоний муравьев и пчел (где около 1015% особей выступают активными разведчиками и инициаторами, а остальные работают по шаблону или бездействуют) до научных сообществ существует устойчивое ядро (10%) с высокой внутренней мотивацией. Кажется, когда технологии сняли внешнее принуждение к умственному труду, система начала стремительно возвращаться к уровню до книгопечатания: где будут 10% высшей когнитивной касты, способной мыслить и управлять сложными системами, и 90% нового большинства в энергосберегающем режиме при размывании того самого среднего класса твердых хорошистов, на котором и держится сложная цивилизация. Ох и не к добру это, мне кажется
Исследования: NAEP Long-Term Trend (США, 19712025, ОЭСР PISA (мир, 20002025, Лонгитюд Майкла Шейера (Великобритания, Королевский колледж Лондона, 19762007, Уортонская школа бизнеса (PNAS, 20242025.

ответить

Годно. Я доволен
Но не согласен.
Человек это техно-сфера (антропосфера); память его и та, что вне его; всё то что его собирает и конструирует - есть этот человек; его собственность/property; человек экстернален и вне только своего организма как биологически-эволюционно возникший вид; человек это и его ракушка, как и улитка не без ракушки же (улитка Башляра.
И тут вот что интересное: переходим от атомно-корпускулярного человека - к человеку-поле-волновому (-сфере)

Вцелом философия технологии остается не раскрытой.
(хотя и близко; не обращал внимания кстати, и забыл уже давно, что Выготский использовал терминологию ту же что и Стиглер, но говоря о когнитивном, тогда как второй о материальной технологии и памяти вообще, вроде даже называя всю технологию экстернализованной памятью, и т. п.; но дискурс уже хорошо нащупан так или иначе.
P. S. погуглил: Стиглер цитировал и разбирал Выготского сам в этой связи.
У Выготского есть социальное у человека, тогда как, напомню, на мой взгляд, всё социальное есть техническое, при более глубоком взгляде и разборе. Тем самым Выготский просто по видимому не ходил достаточно глубоко в эту тему, занимаясь своей. И через него мы не достигнем достаточной глубины понимания для исчерпания темы. (какой токо )

ответить

Благодаря критическому и аналитическому мышлению, я работаю с ИИ как бы объединяя с ним интеллектуальные усилия. Да, в работе я его использую много. Но знаю, что отвечать за качество буду именно я, и ответственность понесу тоже я лично, если будет допущена малейшая ошибка. Поэтому всю информацию я проверяю. Не ленюсь лезть в источники и проверять. Я не верю ИИ слепо и не гадаю на нем. Я довожу работу до совершенства, с помощью него. И чтобы этого достичь, приходится много проверять, переделывать, и перепроверять. Но результат потрясающий. С ИИ я чувствую, будто на ноги мне надели такие пружины, с которыми я могу не просто ходить, в взлетать и перепрыгивать огромные препятствия.
ответить

Мне кажется интериоризация/экстериоризация больше определяется зависимостью. Интериоризация это как раз смещение в сторону независимости от чего либо внешнего. Если я хорошо считаю в уме я не завишу от внешнего, калькулятора или компьютера. Как собственно и с телом. Тело свои процессы замкнуло максимально на себя, но все равно зависит от среды - еда, температура и пр. Но при этом функционально тело имеет довольно большую степень независимости что от внешнего мира, что от нашего сознания. И эта автономность гораздо выше, чем у нашего интеллекта.
ответить

По поводу непроверенного контента в Интернете и обучения на них ИИ-моделей. Хотите лайфхак Смотрите на источник информации. И доверяйте только проверенным источникам (т. е. статье в Nature мы доверяем, пока нет опровержения в том же журнале, а статье на Яндекс Дзен - не доверяем, пока отдельно не проверим эту информацию по достоверным источникам. То же делаем и с инфой, выдаваемой ИИ. Проходим по ссылкам, которые он оставляет (требуем эти ссылки. Для меня это естественная последовательность действий. Но как выясняется не для всех так.
ответить

Про разницу между ИИ как инструментом и как когнитивным протезом Фаликман канешно круто разложила. Но каково самое парадоксальное, что эта новая экстериоризация происходит незаметно: ты думаешь, что расширяеш свои возможности, а на деле просто отдаешь мышление на аутсорс. Походу, наш внутрений эрудит окончательно капитулирует перед иллюзией собственной компетентности, когда гуглит готовые ответы. Граница делегирования стирается быстрее, чем мы успеваем включить хоть какое-то критическое мышление.
ответить

Начали за здравие, кончили за упокой. Всё правильно разложили по полочкам, то что, БЯМ это инструмент, справочник и ассистент в одном - полностью согласен, я использую его во всех трёх ипостасях. А потом почему-то полезли в дебри. Мария зачем-то сравнила человека, который учится у ИИ, с тем, кто пытается бежать быстрее автомобиля, но ведь в этом случае БЯМ не инструмент, а справочник, и сравнивать надо с тем, как человек учит стихотворение наизусть по книге.
ответить

ии это машина языка слов. для о. слов. общество потребления. =люди которые смотрят ушами и г. лупят глазами. и текст потребляют как колбасы: .
. а ии это эволюция книги-текста. гипертекста. из червячка- сервячка выпохнула бабочка. типа ии.
учитесь смотреть не только ушами но и глазам. пока не поздно.

ответить

Очередное про ИИ. куда делся блокчейн Даешь майнинг биткойна! Все уже по 100 раз поговорили про угадайку следующего слова и как она стала убидительнее. аж в 90% случаев точно угадывает. если у вас самолет будет падать в 1 случае из 10 вы продолжите разжовывать как это круто летать и быстрее чем на машине
ответить

О-о-о! Благодарю. После Оксаны Мороз, да Мария Фаликман. Ну, Ивар. Просто благодарю и всё! Мария, рад, что у вас всё ОК. P. S. Осень, которую мы заслужили, по городам, где мы раньше не жили, но населили теперь, громом морочит, играет волнами, мучает снами, в которых за нами где-то захлопнулась дверь. W
ответить

Да, проблема с интереризацией. По повуду труднее читать, это потому, что труднее прикладывать усилия, а может их надо больше прикладывать, чем в другом случае или оба варианта вместе.
ответить

Попробуйте понять исследования в книге Заблудившийся в чужой вселенной Владимира Молокова. Возможно, вы откроете для себя, кто мы на самом деле и почему мы в этой вселенной.
ответить

Ну ничего не понимаю из вашего контента. Коммент просто в пользу красоты лиц явных и скрытых принявших участие в создании этого контента.
Всем нам любви

ответить

Вы делегируете лифту задачу поднять вас на нужный этаж, вы ведь не боитесь, что у вас ноги атрофируются. И не пересчитываете этажи в уме, просто едете.
ответить

Лучше б пояснили, как устроена 'логика' этой самой большой языковой модели и чем она отличается от человеческой и математической.
ответить

черт, от такого растекания мыслию по древу я постоянно теряю нить. О чем вообще разговор. При всем уважении, но. послушаю Алипова
ответить

доверие к LLM хах, это смешно. их надо проверять и перепроверять и направлять, так уж они устроены, прям как временные рабочие.
ответить

Почему нет ни слова о том, что люди с делегированием задач ллм начинают думать о задачах более абстрактного уровня
ответить
Добавить отзыв, комментарий






Другие видео канала