З метою морального виховання компанії Anthropic і OpenAI запросили релігійних діячів для обговорення етичних аспектів штучного інтелекту.

Anthropic і OpenAI організували серію зустрічей з представниками різних релігійних груп у США, щоб обговорити етичні засади для моделей штучного інтелекту. Ці компанії прагнуть знайти підходи до навчання штучного інтелекту так, щоб він міг приймати "правильні" рішення в складних обставинах.

Про це повідомило видання Gizmodo.

У Нью-Йорку пройшов круглий стіл під назвою Faith-AI Covenant, в якому взяли участь делегати з юдейських, індуїстських, сикхських, православних та мормонських спільнот. Серед учасників також були представники компаній Anthropic та OpenAI.

Раніше Anthropic проводила зустрічі з лідерами християнської спільноти. Тоді компанія висловлювала бажання отримати рекомендації щодо "духовного збагачення" своєї моделі Claude та планувала зустрічі з представниками інших релігійних напрямків.

У матеріалі агентства Associated Press вказується, що швейцарська неурядова організація Interfaith Alliance for Safer Communities виступила організатором цього заходу. Організація має намір провести аналогічні зустрічі в Китаї, Кенії та Об'єднаних Арабських Еміратах.

Журналісти повідомляють, що компанія Anthropic шукає етичні засади для свого штучного інтелекту Claude в тих випадках, коли встановити чіткі правила неможливо, а помилкові рішення можуть призвести до серйозних наслідків. В управлінні компанії усвідомлюють ризики, пов'язані з тим, що їхні зусилля з надання Claude належних етичних цінностей можуть не увінчатися успіхом.

Генеральна директорка некомерційної організації Humane Intelligence Румман Чоудхурі повідомила агентству AP, що раніше в Кремнієвій долині існувала помилкова думка про можливість розробки універсальних етичних принципів для генеративного штучного інтелекту. Вона зазначила, що тепер компанії починають звертатися до релігійних традицій як до інструменту для подолання складних моральних викликів.

У той же час Gizmodo підкреслює, що Anthropic, швидше за все, не впроваджуватиме конкретні релігійні вчення у Claude. Швидше за все, компанія прагне зібрати загальні етичні принципи, демонструючи, що вона врахувала різні погляди на етику.