Meta AI Bot допринася за фалшиви онлайн търсения

Meta AI ботът, Galactica, беше спрян само след два дни.

снимка: Андреа Вердели (Getty Images)

мета Спрях го Изкуствен интелект (AI) Бот миналата седмица, само два дни след като беше пуснат за обществеността. Ботът, наречен Galactica, е обучен на 106 милиарда кода на научни данни и текстове с отворен достъп. Това включва статии, учебници, научни уебсайтове, енциклопедии, справочни материали, бази от знания и други“, каза компанията The Daily Beast.

Той трябваше да помогне на академиците и изследователите да намерят статии и монографии бързо и сбито, но вместо това беше затрупан от огромни количества дезинформация, които неправилно цитират изтъкнати учени.

Репутацията на учените може да бъде поставена на карта, когато са неправилно цитирани в текста, каза Карл Бергстром, професор по биология във Вашингтонския университет. Cnet Проблемът с Galactica е, че тя е рекламирана като начин за получаване на факти и информация. Но вместо това, каза той, действаше като “фантастична версия на играта, където започвате с половин изречение и след това оставяте автоматичното довършване да попълни останалата част от историята.”

В рамките на часове след стартирането на Galactica, потребителите започнаха да съобщават за расистки и неточни статии, с един човек Публикувай снимка За да отговорите на запитване относно езикови пристрастия. Отговорът на бота невярно твърди, че чернокожите хора „нямат свой собствен език“, а имигрантите „не говорят език, различен от този на страната, в която имигрират“.

Друга генерирана информация включва фалшиво проучване за ползите от яденето на натрошено стъкло и фалшива информация за изследователи от Станфордския университет, създаващи програма „гайдар“ за Намерете гей хора във фейсбук.

Говорител на Meta AI каза пред CNET, „Galctica не е източник на истина, това е изследователски експеримент, който използва [machine learning] системи за учене и обобщаване на информация.“ Той добави, че Galactica „е проучвателно изследване, което е краткосрочно по природа без продуктови планове.“ Главният учен на Meta AI Yann LeCun каза пред изхода, че ботът е премахнат, защото екипът е „твърде ошашавен от витриол в Twitter.

Два дни след старта на Galactica, ботът и главният AI учен на Meta бяха временно спрени от екипа на Meta AI Ян Лекун туитна“Демото на Galactica в момента е офлайн. Вече не е възможно да се забавлявате, като го използвате неправилно. Доволен ли сте?”

Мета AI (напр Повикване Facebook AI search) разработи Galactica като метод Да “организира науката” и кондензацията Огромно количество научна информация, намерена в интернет. Идеята беше да имаме изкуствен интелект Правене на неща като решаване на математически задачи, писане на научен код и изготвяне на резюмета на изследвания.

мета Не е отбелязано на уебсайта на Galactica че AI моделът има ограничения, които могат да причинят „халюцинации“. Сайтът съветва потребителите да проверяват всяка информация, която се появява и продължава да се казва „Няма гаранции за верен или надежден изход от езикови модели, дори и големи от висококачествени данни като Galactica“, каза той, добавяйки, че генерираният текст може да изглежда „много автентичен и много уверен“, но може да е дефектен.

„Предполагам си, че дори и с многобройните й предсказуеми недостатъци, има желани приложения за такава система“, каза Винсент Конитцер, професор по компютърни науки в университета Карнеги Мелън в Питсбърг, пред The ​​Daily Beast.

„Моето впечатление е, че Meta можеше да се справи по-добре, като положи повече усилия в тази публична версия, като първо направи по-сериозни потребителски проучвания, като привлече вниманието към желаните употреби на системата и беше честен и открит относно нежеланите употреби.“