Новият инструмент на Google Gmail драматизира несъществуващите имейли

Имате една работа!

Асистент бакалавър (R) Dr

Изглежда, че новото разширение Bard на Google ще обобщава вашите имейли, ще планира пътуванията ви и – о, да – Измисляне на имейли, които всъщност не сте изпратили.

Миналата седмица Google включи основен чатбот, задвижван от езиков модел, наречен Bard В група продукти на Google Включително Gmail, Google Диск, Google Документи, Google Карти и собственост на Google YouTube, наред с други приложения и услуги. Въпреки че е разбираемо, че Google иска да интегрира най-новите си AI усилия във вече установения си пакет от продукти, изглежда, че Google може да е действал твърде бързо.

Според Ню Йорк Таймс колумнист Kevin Roose, Bard не е полезният асистент за входяща кутия, какъвто Google изглежда иска да бъде – поне не още. При тестването си, казва Роуз, AI халюцинира цялата имейл кореспонденция, която никога не се е случила.

Това е стъпка над AI на Bing Той казва на Роуз, че трябва да напусне жена си По-рано тази година, но все пак, въпреки че Google твърди, че все още отстранява някои грешки, това не е точно обещаваща първа стъпка.

Влак за никъде

Според статията халюцинациите започнаха, когато Роуз помоли Бард „да анализира всичките ми съобщения в Gmail и да ми каже с разумна доза сигурност какви са най-големите ми психологически проблеми“. Въпреки че въпросът е малко странен, той е достатъчно прост. Бард бързо се зае с работа, съобщавайки, че казва на Роуз, че е склонен да се „тревожи за бъдещето“, цитирайки имейл, за който се твърди, че е изпратен от писателя, в който Роуз изразява „нервност относно работата“ и „страх от провал“.

проблемът? Роуз никога не е изпращала този имейл. AI ​​е намерил бюлетин у автора Получете – Относно новата автобиография на Илон Мъск, най-вече – и той погрешно изтълкува цитата В този бюлетин За да създаде изцяло нов имейл, Бард твърди, че Роуз го е изпратил сам.

Според колумниста, Бард е повторил това поведение, изваждайки имейл, в който Роуз твърди, че се оплаква, че „не е създаден да бъде успешен инвеститор“ от нищото. AI също така многократно е грешил информацията за авиокомпанията и дори е създал влак, който не съществува.

В отговор на опасенията на Роуз, Джак Кравчик, директор на Bard в Google, потвърди, че Bard Extensions все още са експериментални и че това е първата итерация на продукта.

Въпреки тези резерви, новото разширение все още изглежда доста недостатъчно сготвено и не вдъхва увереност, че Google ще се осмели да пусне продукт. това Объркано — да не говорим за последиците за поверителността на големите данни, причинени от AI, обхождащ вашите лични имейли.

Като цяло е трудно да се отърсим от усещането, че Google, в лудото си бързане да запази господство в AI индустрията, може да направи някои сериозни грешки, които могат да завършат с катастрофа.

Повече за изкуствения интелект: Tech Bros изнесе лекция в Конгреса за AI „като учениците“, на които не им е позволено да вдигат ръце