Татьяна Черниговская: «Человек, который доверяет только ИИ сложные когнитивные задачи, теряет собственные креативные способности»

В?интервью для?сайта 188bet体育_188bet亚洲体育_点此进入 Татьяна Владимировна рассказала, в?чем?заключается опасность использования искусственного интеллекта и?в?чем?он?пока не?может превзойти человека.

Расскажите, пожалуйста, о?ваших текущих исследованиях. Какими из?открытий, сделанных за?последние несколько лет, вам особенно хотелось поделиться с?заинтересованной аудиторией?

Не?думаю, что из?всего сделанного мною в?науке что?то можно назвать открытием. Просто так?они?не?делаются. Вообще, мало ученых, которые совершают открытия.

В?последнее время я?интересуюсь проблемой сознания в?связи с?языком и?с?мозгом, но?до?открытий там очень далеко. Это?одна из?самых сложных проблем, которые вообще сейчас в?мире исследуются. Только теорий сознания насчитывается примерно?200. Заниматься такими?вещами трудно. И?опасно в?том смысле, что существует много разных противоречивых мнений. Вместе с?академиком Константином Владимировичем Анохиным, директором Института перспективных исследований мозга?МГУ, мы?изучаем много связанных с?этим?тем, а?я?сама занимаюсь целым спектром когнитивных вопросов ― от?памяти, принятия решений и?процессов чтения до?того, как мы?смотрим на?предъявленное нам в?дополненной или виртуальной реальности.

Меня очень привлекает проблема неоднозначности в?языке ― что происходит в?голове человека, когда он?читает текст, который можно по?разному трактовать. Скажем, разница в?синтаксисе не?дает возможности решить, кто?деятель, а?кто объект действия, и?так далее. Мы?также занимались тем, что?делается в?мозгу у?синхронных переводчиков. Это?очень сложная, экстремальная работа, связанная с?высоким стрессом, и?вопрос в?том, как мозг может совершать ее?с?такой?большой скоростью.

Чем дальше, тем больше меня интересует именно сложная деятельность мозга (как физическая, так и?ментальная, творческая), проявления высших психических функций. Все, что делает только человек. Потому что никто больше в?мире не?пишет музыку, не?танцует. И?в?спорте олимпийского уровня на?самом деле все решает мозг: мышцы сами не?шелохнутся, если он?не?отдаст приказ. А?что происходит, когда человек совершает открытие или создает стихи? Это,?на?самом деле, практически невозможно исследовать, но?мы?пытаемся. В?последнее время меня, пожалуй, больше всего занимает тема, которую я?называю ?Мозг и?музыка?.

В?нашу жизнь все больше входят программы, использующие генеративный?ИИ. Сегодня они?успешно используются в?разных сферах деятельности: например, в?фармакологии?— для?отсева опасных вариантов при?поиске новых химических соединений для?разработки лекарств?— или в?дизайне?— для?создания нескольких эскизов изображения, которое потом отрисует художник. Нейросети ускоряют выполнение рутинных задач и?упрощают работу, но?насколько опасно для?человечества?то, что мы?привыкаем к?их?помощи? А?может, нам лучше продолжать делать все?вручную?

С?обработкой больших данных и?рутинного материала, которого может быть очень много, искусственный интеллект огромную помощь уже?оказывает и?дальше окажет. В?отличие от?человека он?не?устает, у?него огромные скорости обработки информации и?гигантская память. Он,?несомненно, полезен для?решения таких?задач и?может даже выполнять научную работу. Как я?уже?много раз говорила, нет врача, который способен посмотреть несколько тысяч рентгеновских снимков или томограмм, при?этом?описать их?и?выявить патологии. Так?что помощь?ИИ такого?сорта бесспорно полезна, ее?можно только приветствовать.

Меняется?ли человек, который доверяет часть своей работы искусственному интеллекту? Пока масштабных научных исследований на?эту?тему не?проводилось, поскольку это?все произошло недавно, но?вообще плохие данные уже?есть. Я?недавно читала в?серьезных международных журналах несколько статей, из?которых следует, что человек, который доверяет сложные когнитивные задачи искусственному интеллекту, теряет собственные креативные способности. Даже у?такой?вещи есть цена, и?для?нас она?довольно дорогая. Если я?разучусь думать, потому что доверю думанье искусственному интеллекту, то?буду сама виновата.

Искусственный интеллект может стать очень опасен. Именно потому, что он?многое уже?делает и?будет делать еще лучше, чем человек. Это?факт. Вопрос в?том, как ограничить его?функционирование, не?потерять контроль. Человечество в?лице умных людей этим?озабочено. Они?боятся и?говорят, что нужно разработать во?всем мире системы, которые не?допустили?бы выход системы?ИИ из?под?контроля. А?кто не?умный, не?боится ничего. Когда некоторые коллеги говорят мне, что это алармизм, что мы?сами сделали?ИИ и?сами отключим, это?только говорит об?их?невысоком уровне. Значит, они?просто не?в?курсе дела. Они?его?не?смогут отключить. Поэтому?да, опасность для?человечества есть.

Но?с?другой стороны, во?всем, что связано с?наукой, с?космосом, с?большими данными, с?медициной и?много еще с?чем, искусственный интеллект присутствует и?продолжит применяться. Поэтому мы?должны обеспечить?то, что я?называю ?кто в?доме хозяин? ― он?не?должен выйти из?под?контроля и?делать все, что хочет. Об?этом?говорят все, даже сами разработчики?— как у?нас, так и?в?крупных странах, которые заняты искусственным интеллектом, а?главные игроки сейчас Соединенные?Штаты, Китай и?Россия. Но?мы?должны понимать, что это?работа не?для?троечников и?не?для?просто отличников, а?для?самых лучших из?них. Поэтому тех, кто в?состоянии заниматься такого?рода работой, нужно беречь и?давать им?все возможности. От?них?зависит наше?будущее.

Татьяна?Владимировна, как вы?относитесь к?тому, что в?нашем постоянно ускоряющемся мире нейросетям отводится роль творца, создающего креативные идеи, а?от?человека зачастую требуется лишь обрабатывать?их, выдавая все больше готовой продукции и?повышая свою эффективность? Как?вы?считаете, смогут?ли люди когда?нибудь преодолеть уже?сложившуюся привычку получать быстрые результаты и?немного замедлиться?

Я?думаю, если дело пойдет так, как сейчас, а?именно лень побеждает все остальное (?Я?сам не?буду ничего делать, пускай делает ChatGPT?), это?ошибочное решение. Все, что связано с?высоким интеллектом, с?креативностью, с?творчеством, с?получением новых идей и?знаний,?— это?работа человека. А?иначе у?меня тогда вопрос к?человечеству: вот вы?отдадите все нейронным сетям и?потенциально сильному искусственному интеллекту, а?сами чем будете заниматься? Гамбургеры есть? Так?что я?очень жестко отношусь к?этому. И?если компании хотят от?работников больше быстрого результата, это?значит, что они?близоруки. Они?получат его?в?ближайшее время, а?что будет происходить через, скажем, пять лет? Об?этом?они?не?думают.

А?вы?можете отличить творческую работу, выполненную человеком, будь?то рисунок, рассказ или музыкальная композиция, от?той, которая была сгенерирована нейросетью? Чем, на?ваш взгляд, они различаются? Как выдает себя?ИИ и?сможет?ли он?однажды превзойти человека в?области искусства?

Это?очень трудная задача. Я?задавала крупным искусствоведам вопрос: если перед вами лежит оригинал работы, скажем, Караваджо и?идеальная копия, сделанная человеком или искусственным интеллектом?— в?данном случае это?не?важно, которая чуть?ли не??лучше?, чем оригинал, вы?их?различите? Эксперты мирового уровня говорят: ?Да, конечно. Непонятно, почему вы?меня спрашиваете?. При?этом?я?ставлю условия, что они?не?будут использовать никакие технические средства?— ни?инфракрасные лучи, ни?рентген, ни?анализ холста, ни?анализ краски, ничего. Только глаза. Я?говорю,?как вы?отличаете?то? На?это они?отвечают: ?Так я?же вижу?.

Когда мы?выходим на?высокий уровень экспертизы в?любой области человеческих умений, будь?то живопись, музыка, литература, наука, то?сталкиваемся с?тем, что искусствоведы и?сами художники или музыканты называют ?насмотренностью? и??наслушанностью?. Это?уже?не?знания, которые черпаются из?учебников, а?опыт. Это?же вам скажет любой очень хороший диагност?врач: ?Так я?просто знаю, вижу?. Если они?все по?одним книгам учились, зачем тогда мы?ищем хороших врачей? А?потому что гениальный врач имеет нюх. Он?смотрит и?понимает, в?чем дело. Чего?же тогда остальные ничего не?видят?

Наши самые лучшие умения доступны только нам. Искусственный интеллект пока этого?всего не?умеет. Вы?наверняка помните фразу из?классики: ?Тень, знай свое место?. Так?вот, ИИ?должен уметь выполнять те?задачи, которые мы?ему поставим. Не?он?нам, а?мы?ему. Иначе мы?проиграем, это?заранее известно. Мы?должны не?повиноваться, а?сотрудничать.

Как, на?ваш?взгляд, развитие нейросетей повлияет на?образование? Теперь студенты могут сгенерировать эссе, научную статью или целую дипломную работу, и?у?преподавателей появилась необходимость отслеживать использование ИИ?инструментов. Как объяснить студентам, почему важно учиться размышлять и?приходить к?выводам самостоятельно?

Мы?все об?этом?думали, потому что кто угодно может написать диссертацию с?помощью генеративных языковых моделей. Из?этого есть простой выход. Защита должна проходить устно. Первые два вопроса валят человека, который не?сам это?написал, и?будет мгновенно понятно, что не?он?автор. Только вопросы надо серьезные задавать, не?на?знание, а?на?понимание. Вот и?все. Думаю, я?не?одна, до?кого это?дошло.

Вы?не?можете этого?избежать, у?вас нет другого выхода. Недавно мой коллега, ректор одного из?крупных московских университетов, прислал смешную вещь. Он?обратился к?недавно появившейся китайской нейросети DeepSeek и?попросил ее?ответить, кто такая?Черниговская. Через?несколько минут он?получил большой текст, полный анализ всей моей научной деятельности. Все, где и?у?кого я?училась, чем сначала занималась, как менялись мои интересы, куда я?пришла и?что разрабатываю сейчас. Это?говорит о?том, что сети умеют не?только собирать сведения, но?и?проделывать анализ.

Когда он?это?прислал, я?была потрясена и?не?поняла, что это. Я?подумала, что кто?то пишет про?меня работу, а?оказалось, что это?результат, который выдал DeepSeek. Надо сказать, я?сильно насторожилась. Мне такую?работу про любого коллегу написать трудно. Для?этого?нужна работа с?источниками и?много времени, чтобы понять, как он?двигался, от?каких идей отказался, а?какие, наоборот, принял.

Вся эта?история с?искусственным интеллектом движется с?гигантской скоростью. То, о?чем мы?не?могли подумать еще полгода назад, уже?тут. Поэтому представить, что будет происходить, скажем, еще через?год, я?даже не?могу. Мы?должны быть настороже и?вооружены собственным когнитивным аппаратом, который нельзя доверять никому. Если мы?к?тому?же перестанем хорошо думать, то?победа искусственных систем над?естественными в?лице человечества произойдет обязательно и?быстро. Я?своим магистрантам и?аспирантам это?все излагаю. Другой вопрос, как они?этим?воспользуются,?— этого?я?не?знаю.