Попытки сделать текстовый ИИ менее расистским и ужасным

В другом тесте Сюйдун Шен, аспирант Сингапурского университета, оценивал языковые модели по тому, насколько они стереотипны в отношении людей по признаку пола или по тому, являются ли они странными, трансгендерными или небинарными. Он обнаружил, что более крупные программы ИИ, как правило, порождают больше стереотипов. Шен говорит, что создатели больших языковых моделей должны исправить эти недостатки. Исследователи OpenAI также обнаружили, что языковые модели имеют тенденцию становиться более токсичными по мере роста; они говорят, что не понимают почему.

Текст, генерируемый крупными языковыми моделями, приближается к языку, который выглядит или звучит так, как будто он исходит от человека, но все еще не понимает того, о чем нужно думать, что понимают почти все люди. Другими словами, как сказали некоторые ученые, этот ИИ — фантастический ублюдок, способный убедить как ученых ИИ, так и других людей в том, что машина понимает слова, которые она генерирует.

Профессор психологии Калифорнийского университета в Беркли Элисон Гопник изучает, как малыши и молодые люди учатся применять это понимание в компьютерных технологиях. Она сказала, что дети учатся лучше всего и что способ, которым дети изучают язык, основывается главным образом на их знаниях и взаимодействии с окружающим миром. Напротив, большие языковые модели не связаны с миром, поэтому их вывод на самом деле менее обоснован.

«Чушь по определению состоит в том, что вы много говорите, и это звучит немного правдоподобно, но за этим нет здравого смысла», — говорит Гопник.

Еджин Чой, доцент Вашингтонского университета и руководитель группы, изучающей здравый смысл в Институте ИИ Аллена, подверг GPT-3 десяткам тестов и экспериментов, чтобы задокументировать, как он может совершать ошибки. Иногда это случается снова. В другой раз проходит в создание ядовитого языка, даже если он начинается с неприемлемого или вредного текста.

Чтобы научить ИИ больше о мире, Чой и группа ученых создали PIGLeT, ИИ, обученный в смоделированной среде, чтобы понимать вещи о физических переживаниях, которые люди учатся созревать, например, плохая идея прикоснуться к горячей плите. Это обучение привело к созданию относительно небольшой языковой модели, которая превосходила другие с точки зрения здравого смысла. По ее словам, эти результаты показывают, что весы — не единственный рецепт победы и что ученым следует рассмотреть другие способы обучения моделей. Его цель: «Можем ли мы действительно создать алгоритм машинного обучения, который изучал бы абстрактные знания о том, как устроен мир?»

Чой также работает над способами снижения токсичности языковых моделей. Ранее в этом месяце она представила себя и коллег. алгоритм кто учится на оскорбительном тексте, аналогично подходу Facebook AI Research; они говорят, что это снижает токсичность лучше, чем некоторые существующие методы. Он говорит, что большие языковые модели могут быть токсичными для человека. «Это язык там».

Некоторые ученые ошибочно обнаружили, что попытки точной настройки и устранения предвзятости модели могут в конечном итоге навредить маргинализованным людям. В посте опубликовано в апрелеИсследователи из Калифорнийского университета в Беркли и Вашингтонского университета обнаружили, что чернокожие, мусульмане и люди, считающие себя ЛГБТ, находятся в особенно невыгодном положении.

Авторы утверждают, что проблема частично связана с тем, что люди, маркирующие данные, неверно оценивают, является ли язык токсичным или нет. Это ведет к предвзятому отношению к людям, которые используют язык не так, как белые. Соавторы статьи говорят, что это может привести к самостигматизации и психологическому ущербу, а также к принуждению людей менять код. Исследователи OpenAI не рассматривали этот вопрос в своей недавней работе.

Джесси Додж, ученый из Института искусственного интеллекта Аллена, пришел к аналогичному выводу. Он рассмотрел попытки уменьшить негативные стереотипы о геях и лесбиянках, удалив все тексты, содержащие слова «гей» или «лесбиянка», из обучающих данных большой языковой модели. Он обнаружил, что такие попытки языковой фильтрации могут привести к наборам данных, которые эффективно стирают людей с такой идентичностью, делая языковые модели менее способными обрабатывать текст, написанный этими группами людей или о них.

Додж говорит, что лучший способ справиться с предвзятостью и неравенством — это улучшить данные, используемые для обучения языковых моделей, а не пытаться устранить предвзятость. Он рекомендует лучше задокументировать источник данных обучения и признать ограничения текста, извлеченного из Интернета, который может чрезмерно представлять людей, которые могут позволить себе доступ в Интернет и иметь время, чтобы создать веб-сайт или добавить комментарий. Он также просит его задокументировать, как фильтруется контент, и избегать широкого использования списков блокировки для фильтрации контента, извлеченного из Интернета.

[

watch online
watch online
watch online
watch online
watch online
free fortnite skins generator
among us hack
among us mod menu
among us hack
among us mod menu
among us hack
among us mod menu
among us hack
among us mod menu
watch online
watch online
watch online
brawl stars gems generator
cash app free money generator
clash of clans hack
clash royale hack
free coin master SPINS
free coin master SPINS
watch online
watch online
watch online
dragon city generator
watch online
watch online
watch online
watch online
watch online
xbox gift card generator
free fortnite skins generator
free v bucks
free coin master SPINS
free fortnite skins generator
free fortnite skins generator
free fortnite skins generator
google play gift card generator
homesacpes hack generator
paypal free money
paypal free money
psn free gift card generator
psn free gift card generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free roblox gift cards generator working
free roblox gift cards generator working
free roblox gift cards generator working
free roblox gift cards generator working
free v bucks
clash royale hack
free v bucks
free v bucks
free v bucks
free v bucks
xbox gift card generator
watch online
watch online
gardenscapes generator
free fire hack
watch online
watch online
gta 5 free money
gta 5 free money
gta 5 free money
watch online
watch online
watch online
itune free gift card generator
instagram free followers
watch online
watch online
free netflix account generator
psn free gift card generator
free roblox gift cards generator working
onlyfans premium account
onlyfans premium account
pixel gun 3d hack
pubg free uc generator
free roblox gift cards generator working
free roblox gift cards generator working
watch online
watch online
watch online
watch online
watch online
watch online
free v bucks
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online
watch online

]

Add a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *