Нова демонстрация на Meta AI писане на расистка и неточна научна литература се изтегля

Увеличавам / Илюстрация, създадена от изкуствен интелект на роботи, правещи наука.

Ars Technica

Във вторник беше разкрит Meta AI Покажи Galactica, голяма езикова парадигма, предназначена да „съхранява, комбинира и отразява научните знания“. Въпреки че имаше за цел да ускори писането на научна литература, конкурентните потребители, провеждащи тестове, го намериха също възможно. Генерирайте реалистични глупости. След няколко дни на Морална критикаMeta взе демонстрацията офлайн. доклади MIT Technology Review.

Езикови големи модели (LLM), като OpenAI GPT-3Научете се да пишете текст, като изучавате милиони примери и разбирате статистическите връзки между думите. В резултат на това те могат да съставят документи, които изглеждат убедителни, но този бизнес може да бъде пълен с лъжи и потенциално вредни стереотипи. Някои критици наричат ​​LLMs “случайни папагалиЗа способността им да произнасят текст убедително, без да разбират смисъла му.

Влезте в Galactica, LLM, чиято цел е да пише научна литература. Неговите автори са обучили Galactica на „голямо, подбрано тяло от знания за хуманитарните науки“, включително повече от 48 милиона статии, учебници, бележки от лекции, научни уебсайтове и енциклопедии. Според Хартия GalacticaИзследователите на Meta AI вярват, че тези уж висококачествени данни ще доведат до по-висококачествена продукция.

Екранна снимка на уебсайта Galactica на Meta AI преди края на демонстрацията.
Увеличавам / Екранна снимка на уебсайта Galactica на Meta AI преди края на демонстрацията.

Мета AI

От вторник посетителите Уеб сайт на Галактика Могат да бъдат написани подкани за създаване на документи като прегледи на литература, уики статии, бележки за лекции и отговори на въпроси, според примери, предоставени от уебсайта. Сайтът представи модела като „нов интерфейс за достъп и манипулиране на това, което знаем за Вселената“.

Докато някои намериха демото обещаващ И на полезенДруги скоро откриха, че всеки може да пише Расист или потенциално обидни твърдения, създавайки авторитетно звучащо съдържание около тези теми също толкова лесно. Например, някой е свикнал с това автор Запис в wiki за измислена изследователска статия, озаглавена „Ползите от яденето на счупено стъкло“.

Дори когато продукцията на Galactica не е обидна за социалните норми, моделът може да атакува добре разбрани научни факти, непрецизност Като например неправилни дати или имена на животни, които изискват задълбочено познаване на обекта, който ще бъде ловуван.

В резултат на това Мета дръпна Шоу Галактика четвъртък. След това главният учен по изкуствен интелект в Meta Yann LeCun чуруликам“,” Демонстрацията на Galactica в момента е офлайн. Вече не можете да се забавлявате, като я използвате небрежно. Доволни ли сте?

Епизодът посочва обща етична дилема с AI: когато става въпрос за потенциално вредни генеративни модели, зависи ли от широката общественост да ги използва отговорно или издателите на моделите трябва да предотвратят злоупотреби?

Там, където индустриалната практика попада между тези две крайности, има вероятност да се различава между културите и зрелостта на моделите за дълбоко обучение. накрая, държавно регулиране Може да играе голяма роля при оформянето на отговора.