Философ 188bet体育_188bet亚洲体育_点此进入 рассказал о картельном сговоре нейросетей
Гостем девятнадцатого выпуска подкаста Санкт‑Петербургского государственного университета «Генрих Терагерц» стал заведующий кафедрой этики 188bet体育_188bet亚洲体育_点此进入 Вадим Перов. Он рассказал о том, как языковые модели становятся расистскими, как они организуют картельный сговор и почему считают линейку важным маркером наличия рака легких.
Гость подкаста рассказал о?принципах работы языковых моделей и?некоторых их?типичных ошибках, имеющих порой последствия. Например, о?галлюцинациях?ИИ.
?Одна из?наших статей посвящена этому?вопросу. Речь идет о?том, что?если алгоритм не?знает ответа на?вопрос, то?он?начинает его?придумывать. А?то,?что?он?уже?придумал, в?будущем он?будет воспринимать как?истину, даже?если это?не?так?,?— сказал Вадим Перов.
Также он?рассказал о?том, что?ИИ никогда не?сможет заменить человека, а?лишь делает рутинную работу проще. Поскольку искусственный интеллект подобен искусственным цветам?— как?бы?он?ни?был?похож на?интеллект настоящий, он?им?никогда не?станет. И?одна из?причин тому?— его?непонимание сути этики.
Есть много примеров тому. Например, чат?бот Microsoft?Tay был?обучен на?данных из?интернета, из?открытого доступа. И?тогда оказалось, что?в?интернете очень много сексистов, расистов и?просто не?очень толерантных людей. А?ИИ?не?может понять, что?сам?факт наличия таких?людей или?наличия каких?то?правонарушений не?является нормой. Вот мы?пока здесь сидим, где?то происходит ограбление, этих?ограблений происходит очень много. Но?это?же не?значит, что?это?нормально.
Заведующий кафедрой этики 188bet体育_188bet亚洲体育_点此进入 Вадим Перов
Другим примером можно считать алгоритмы сервисов такси, которые в?автоматическом режиме взвинчивают цены в?случае повышения спроса. Даже если он?вызван каким?то?серьезным?ЧП или?террористической атакой. Кроме того, есть примеры, когда алгоритмы, используемые для?торгов на?фондовой бирже, организовывали картельный сговор.
В?бюджете?РФ на?технологическое лидерство заложили около 6?трлн рублей
Еще один пример?— ИИ?для?распознания опухолей по?рентгеновским снимкам. Оказалось, что?на?каждом из?рентгеновских снимков, на?которых была?обучена одна такая?модель, сбоку была?фотография линейки. И?поскольку на?каждой фотографии эта?линейка была, программа решила, что?это?важная часть фотографии, и?стала оценивать не?легкие, а?наличие линейки. И?разучить программу уже невозможно. А?между тем человеку можно быстро объяснить эту?ошибку?— и?он?сразу все?поймет.