Microsoft пусна чатбот Bing въпреки предупреждението на OpenAI, че не е готов – Ars Technica

Напрежението и объркването направиха партньорството между Microsoft и OpenAI „неудобно“, разкриха хора, запознати с въпроса в Доклад на Wall Street Journal днес.

Това напрежение и объркване не само се разпространиха във вътрешния AI екип на Microsoft – очевидно се занимава с бюджетни съкращения и ограничен достъп до технологията OpenAI – но източници казаха, че също така засенчиха противоречивото внедряване на Microsoft за задвижвано от AI търсене Bing миналия февруари. По това време беше установено, че Bing е уязвим на атаки с незабавно инжектиране, които разкриват фирмени тайни и понякога предоставят наистина неточни и непрекъснати отговори на потребителски подкани.

Според WSJ, OpenAI предупреждава Microsoft „за опасностите от бързането на интегрирането на OpenAI технологията, без да я обучава допълнително“ и „предлага на Microsoft да се движи по-бавно в интегрирането на своята AI технология с Bing“. Загрижеността на OpenAI беше, че чатботът на Bing, Sydney, може да даде неточни или накъсани отговори, но Microsoft изглежда лесно пренебрегна това ранно предупреждение.

в Интервю по кабел Публикувано днес, главният изпълнителен директор на Microsoft Сатя Надела предположи, че всички хълцания, възникнали първоначално в Сидни, са били само част от плана на Microsoft да обучи чатбот да отговаря на подкани от реалния свят, които не могат да бъдат тествани в лаборатория.

„Не пуснахме Сидни с GPT-4 първия ден, когато го видях, защото трябваше да свършим много работа, за да създадем предпазен колан“, каза Надела пред Wired. „Но също така научихме, че не можем да направим цялото подравняване в лабораторията. За да приведете един AI модел в съответствие със света, трябва да го подравните в света, а не в някаква симулация.“

Отчасти поради това Microsoft все пак се втурна напред, но източници казват на WSJ, че бързането се дължи отчасти и на това, че ръководителите на Microsoft имат „загриженост относно момента на стартиране на ChatGPT миналата есен“.

Тъй като OpenAI започна публично тестване на ChatGPT, докато Microsoft все още работеше по интегрирането на технологията OpenAI в Bing, напрежението очевидно ескалира между партньорите, които също бяха конкуренти в надпреварата за AI за вниманието на света.

С нарастването на успеха на ChatGPT някои служители на Microsoft изразиха опасения, че ChatGPT краде „гръмотевицата“ на Bing, съобщи WSJ. Други основателно предположиха, че Microsoft може да научи ценни уроци, преди Bing да бъде освободен от ранното публично тестване на ChatGPT. Въпреки че Microsoft наблюдава как популярността на нейния партньор нараства с всяка изминала минута, лесно е да се разбере защо компанията набляга повече на базираната на AI версия на Bing. Общият интерес към технологията беше налице и Microsoft искаше да бъде по-голяма част от разговора.

Разбира се, ChatGPT в крайна сметка спечели надпреварата за AI, веднага привличайки най-бързо растящата потребителска база в историята. Междувременно „новият Bing“, пуснат месец по-късно, „все още не се е доближил до огромния успех на ChatGPT“, съобщи WSJ. Позовавайки се на данни от аналитичната фирма YipitData, WSJ съобщава, че ChatGPT „има почти два пъти повече средни дневни сесии за търсене, отколкото търсенето в Bing“. YipitData съобщи, че ChatGPT е достигнал 200 милиона месечни потребители, докато Bing е достигнал 100 милиона активни дневно потребители през март.

ChatGPT и Bing впоследствие бяха критикувани за стартирането на чатботове, които са виновни за измисляне на неща, лъжи и други проблеми, които много потребители не са очаквали да срещнат. OpenAI все още търси начини да намали така наречените „халюцинации“ на чатботовете, съобщи CNBC през май. През февруари Microsoft трябваше да актуализира Bing, за да намали дългите разговори, докато компанията намери по-добро решение. Дори след като работих по този проблем в продължение на месеци, Споменах Edge че – докато Bing може да реагира с по-малко непрекъснати избухвания по време на дълги разговори – „той често бърка нещата“.

Надела каза пред Wired, че Microsoft е открила „много практични неща, които намаляват халюцинациите“, които изглежда действат като временен буфер, докато технологията се подобри и не се появят нови решения.

Надела каза също, че понякога „халюцинациите“ са желателни и всички решения за намаляване на „халюцинациите“ трябва да имат предвид, че потребителите трябва да запазят опцията да използват интелигентни чатботове и за творчески цели.

OpenAI не отговори веднага на искането на Ars за коментар. Говорител на Microsoft каза на Ars, че друга причина компанията да пусне новия Bing Preview е да отговори на половината от всички стандартни търсения в мрежата, които обикновено остават без отговор. Говорителят каза, че Microsoft непрекъснато се стреми да подобри авторитета и достоверността на уеб резултатите, които поддържат отзивчивостта в режим на чат, и е готова бързо да коригира неочаквани проблеми, които възникнат.

„Нашият подход е отговорно да направим AI инструменти достъпни за хора с поставени парапети, за да можем да получим обратна връзка и да продължим да учим и подобряваме тези инструменти бързо, както направихме с Bing“, каза говорител на Microsoft пред Ars.

Конкуренцията надхвърля чатботовете

Когато Wired попита Надела защо Microsoft ще инвестира в OpenAI, когато инвестира в своя голям езиков модел от десетилетия, Надела каза, че вижда, че „OpenAI преследва същото като“ Microsoft. Вместо да се „опитва да обучи пет различни стартъп модела“ едновременно, Надела видя възможност да си партнира с OpenAI, за да създаде „едно предприятие“, където двете независими компании могат да „преследват една цел, с дисциплина“.

„Казахме, нека преследваме това и да изградим нещо, което наистина завладява въображението на света“, каза Надела пред Wired.

Но Wall Street Journal съобщава, че партньорството е много по-сложно от това.

Допълнително напрежение и объркване възникнаха във вътрешния екип на Microsoft за изкуствен интелект, който „се оплака от свиване на разходите“. Повечето служители нямат „достъп до вътрешната работа“ на технологията OpenAI, което е особено болезнено за служителите, които се опитват да интегрират тази технология в различни продукти на Microsoft. Съществува и смущаващият факт, че екипите по продажбите на OpenAI и Microsoft „понякога доставят едни и същи клиенти“. The Wall Street Journal съобщава, че голяма част от тази „драма“ се равнява на типичните вътрешни борби, които се случват всеки път, когато две компании се сдружават, но няма пренебрегване на конфликта, присъщ на това, че и двете страни се опитват да запазят независимост, докато извличат максимални печалби чрез продажба на достъп до една и съща технология .

Въпреки тези напрежения, Надела каза пред Wired, че OpenAI „залага „Microsoft и Microsoft“ на „OpenAI“. Той все още предвижда „добро бизнес партньорство“ между независими компании и смята инвестицията на Microsoft в OpenAI за „стабилна дългосрочна сделка „.

Все по-често изглежда, че един от начините за успокояване на напрежението е сближаването на компаниите в партньорство. The Wall Street Journal отбеляза, че Надела обяви миналия месец, че търсачката Bing скоро ще бъде интегрирана в ChatGPT, което според него е „само началото на това, което планираме да направим с нашите партньори в OpenAI, за да донесем най-доброто от Bing в ChatGPT опит.“