✏️ Tankie's R&R: OpenAI использовала труд сотрудников на аутсорсе за $2 в час для модерирования сообщений
За эти деньги работники, которых нанял подрядчик, анализировали тексты с описанием домогательств, разжигания ненависти и насилия.
Разработчики чат-ботов сталкиваются с проблемой: из-за того, что ИИ обучается на текстах в открытом доступе, он неизбежно в итоге может создавать расистские, сексистские и другие высказывания. «Очистить» эти данные вручную нельзя — даже команде из сотен человек потребовалось бы несколько лет, пишет Time.
Поэтому разработчик чат-бота ChatGPT — компания OpenAI создала нейросеть, которая поможет находить «токсичные» высказывания и заранее отфильтровывать их.
Чтобы получить такие метки, с ноября 2021 года OpenAI отправила десятки тысяч фрагментов текста аутсорсинговой фирме в Кении, выяснил Time. В этом разработчику помогала компания Sama из Сан-Франциско — она нанимает работников в Кении, Уганде и Индии для разметки данных для Google, Microsoft и других.
Эта же контора занималась модерированием токсичного контента на Facebook (признан экстремистской организацией в России) и снова сотрудники жалуются на психические травмы.
Вспоминается случай 2019 года, когда Amazon заменил украинцами нейросети «умных камер» компании со-основателя MailRu (украинские инженеры использовали видеозаписи с камер наблюдения «умного дома» Ring от корпорации Amazon для доработки алгоритмов системы распознавания). Позже Amazon организовал т.н. Механического турка], когда заказчик может нанять группу низкооплачиваемых людей за клавиатурами. Почему это дешевле, чем натренировать нейросеть — читайте в статье по ссылке.
#Наука #IT #Нейросеть #Новости #OpenAI
За эти деньги работники, которых нанял подрядчик, анализировали тексты с описанием домогательств, разжигания ненависти и насилия.
Разработчики чат-ботов сталкиваются с проблемой: из-за того, что ИИ обучается на текстах в открытом доступе, он неизбежно в итоге может создавать расистские, сексистские и другие высказывания. «Очистить» эти данные вручную нельзя — даже команде из сотен человек потребовалось бы несколько лет, пишет Time.
Поэтому разработчик чат-бота ChatGPT — компания OpenAI создала нейросеть, которая поможет находить «токсичные» высказывания и заранее отфильтровывать их.
Чтобы получить такие метки, с ноября 2021 года OpenAI отправила десятки тысяч фрагментов текста аутсорсинговой фирме в Кении, выяснил Time. В этом разработчику помогала компания Sama из Сан-Франциско — она нанимает работников в Кении, Уганде и Индии для разметки данных для Google, Microsoft и других.
Эта же контора занималась модерированием токсичного контента на Facebook (признан экстремистской организацией в России) и снова сотрудники жалуются на психические травмы.
Вспоминается случай 2019 года, когда Amazon заменил украинцами нейросети «умных камер» компании со-основателя MailRu (украинские инженеры использовали видеозаписи с камер наблюдения «умного дома» Ring от корпорации Amazon для доработки алгоритмов системы распознавания). Позже Amazon организовал т.н. Механического турка], когда заказчик может нанять группу низкооплачиваемых людей за клавиатурами. Почему это дешевле, чем натренировать нейросеть — читайте в статье по ссылке.
#Наука #IT #Нейросеть #Новости #OpenAI
