Microsoft започва да обръща ограниченията на AI chatbot на Bing

Ограниченията бяха първоначално определени, след като няколко потребители съобщиха, че ботът се държи странно по време на разговори. В някои случаи той може да се обърне към идентифицирането си като „Сидни“. Тя отговори на обвинителни въпроси, като отправяше обвинения, до степен да стане враждебна и да откаже да се ангажира с потребителите. В разговор с репортер на Washington Post ботът каза, че „чувства и мисли“ и реагира гневно, когато му беше казано, че разговорът може да бъде публикуван.

Франк Шоу, говорител на Microsoft, отказа коментар извън публикация в блог във вторник.

Когато изпробвате новата автоматизирана търсачка за чатбот на Microsoft, някои отговори са добре дошли

Microsoft се опитва да върви по границата между изтласкването на своите инструменти в реалния свят, за да изгради маркетингов шум и да получи безплатно тестване и обратна връзка от потребителите, срещу ограничаването на това, което ботът може да прави и кой има достъп до него, за да продължи да бъде потенциално неудобно или опасно технология извън полезрението на обществеността. Първоначално компанията получи аплодисменти от Уолстрийт за пускането на своя чатбот преди големия съперник Google, който доскоро се смяташе за лидер в технологиите за изкуствен интелект. И двете компании се надпреварват помежду си и с по-малки компании за разработване и показване на технологията.

Чатът в Bing все още е достъпен само за ограничен брой хора, но Microsoft е заета с одобряването на повече от опашка, която достига милиони, според туит от изпълнителен директор на компанията. Въпреки че събитието за стартиране на 7 февруари беше описано като основна актуализация на продукта, която щеше да революционизира начина, по който хората търсят онлайн, оттогава компанията представи версията на Bing като тестване и намиране на грешки.

Ботове като Bing се обучават на изчерпани купчини необработен текст от интернет, включително всичко от коментари в социалните медии до академични статии. Въз основа на цялата тази информация те могат да предвидят най-разумния тип отговор на почти всеки въпрос, което ги кара да изглеждат зловещо човешки. Изследователите на етиката на изкуствения интелект предупреждаваха в миналото, че мощните алгоритми ще се държат по този начин и че без подходящ контекст хората могат да си помислят, че са съзнателни или да придават на отговорите си повече доверие, отколкото си заслужават.