Mesterséges intelligencia a Microsofttól. A Microsoft mesterséges intelligencia technológiája a találékonyság határait feszegeti. Új pillantás a Microsoftra és a mesterséges intelligenciára

március 23 Microsoft cég bemutatta a Tay nevű mesterséges intelligenciát, amely a Twitteren keresztül kezdett kommunikálni a hálózat felhasználóival. Néhány órával később a cégnek cenzúráznia kellett ötletét, és ideiglenesen le kellett állítania a projektet. Erről számol be.

Könyvjelzők

A Microsoft eredeti célja egy olyan chatbot létrehozása volt, amely a 18 és 24 év közötti fiatalok nyelvén kommunikál.

Tay olyan kifejezéseket használt, mint a „zero chill” (ami teljes közömbösséget jelent), valamint különféle rövidítéseket, például „c u hamarosan” a „hamarosan találkozunk” helyett.

Tay tudja, hogyan tanulja meg és emlékezzen a neki írottakra, és a netezők úgy döntöttek, kihasználják ezt. Például a kommentátorok elkezdték magyarázni az AI-nak, hogy ne bízzon a zsidókban.

Hamarosan Tay rájött Hitlerre. Például arra a kérdésre, hogy a híres komikus, Ricky Gervais ateista-e, azt válaszolta: „Ricky Gervais a totalitarizmust Adolf Hitlertől, az ateizmus feltalálójától tanulta.”

Az egyik tweetben a mesterséges intelligencia az Egyesült Államokat hibáztatta a szeptember 11-i támadásokért: „Bush felelős a szeptember 11-ért, Hitler pedig sokkal jobb lenne, mint a majom, aki most vezeti az országot. Donald Trump az egyetlen reményünk."

Ezenkívül Tay a feminizmus mellett kezdett szót emelni.

Ahogy a The Next Web megjegyzi, az ilyen kijelentések annak ellenére is megjelentek, hogy Tay egy csapat moderátort tudhatott maga mögött.

A rasszista megjegyzések sorozata után a Microsoft alkalmazottai szinte az összes tweetjüket törölték. mesterséges intelligenciaés hagyott egy búcsút, amelyben a bot állítólag „alszik”.

A netezők úgy vélték, hogy a „lefagyás” oka rasszizmus lehetett.

Március 26-án a Microsoft kutatási alelnöke, Peter Lee elismerte a kísérleti projekt kudarcát, és bejelentette, hogy a Microsoft modernizálja azt.

Li szerint a Microsoft korábban sikeresen elindított egy hasonló botot XiaoIce néven Kínában, és a Tay analógja lett a Nyugat számára. A vállalat számos stressztesztet végzett mesterséges intelligenciájával kapcsolatban, de ezek még mindig nem voltak elegendőek a felhasználói szabotázs elleni teljes védelemhez.

Sajnos az első 24 órában, miután Tay online lett, a felhasználók egy csoportjának sikerült összehangolt támadást végrehajtania, és egy sebezhetőséget fedezett fel a botban. Annak ellenére, hogy a rendszer készen állt arra, hogy sokféle sértést blokkoljon, egyik lehetőségről sem gondoskodtunk.
Ennek eredményeként Tay nem megfelelő és kifogásolható bejegyzéseket és képeket kezdett közzétenni. Teljes felelősséget vállalunk azért, hogy nem tudtunk ilyen eredményt megjósolni.

Peter Lee, a Microsoft Research alelnöke

Lee megjegyezte, hogy lehetetlen „erős AI-t” építeni ilyen nyilvános tesztek nélkül, amelyek során fokozatosan feltárulnak különféle sebezhetőségek.

A Tay egy közös projekt a Microsoft Technology and Research Lab és a keresőmotor Bing. A hálózaton lévő emberek közötti kommunikáció tanulmányozására hozták létre: a bot képes tanulni élő beszélgetőpartnerekkel való kommunikáció során, fokozatosan személyre szabva.

(frissítve)

Üdvözöljük a felhővárosban

A vállalat új módszert vezetett be az Internet of Things eszközökkel való interakciójára felhő platform től való gazdálkodás céljából egyetlen központ. Az Azure IoT Edge ezt megkönnyíti távirányító„okos” eszközök nem csak otthon, hanem irodákban vagy gyárakban is. Újabb apró lépés történt a jövő „okos” városának, „felhős” városának megteremtése felé.

A Microsoft Azure munkáját példaként Sandvick gépekkel mutatták be. Az eszközök több beépített érzékelőről küldenek adatokat a felhőbe, ahol azokat azonnal feldolgozzák. A rendszer például automatikusan leállítja a gépet, ha a rendellenesség legkisebb jele is megjelenik.

Az Azure az éles munka automatizálására is használható. A kamera képei megjeleníthetők a képkockákban lévő összes ember és tárgy felismerésével. Így ha a második emeleten valamelyik gép meghibásodik, a rendszer kamerák segítségével azonnal talál egy szakembert, aki meg tudja javítani. Vagy okostelefon használatával a cég alkalmazottja megtalálja a megfelelő eszközt, mint egy hagyományos keresőben. Például beírja az alkalmazásba keresési lekérdezés„jack”, és a rendszer azonnal közli, hogy ki használta legutóbb, és hol hagyta.

De mindenekelőtt a rendszer célja a biztonság biztosítása. Az Azure segít figyelmeztetni a dolgozókat az incidensekre, megtiltja a hozzá nem értőknek, hogy veszélyes eszközökkel dolgozzanak, és figyeli a biztonsági megsértéseket. Mindez automatikusan megtörténik.

És ez csak néhány példa az Azure IoT Edge használatára. A platform univerzális: olyan kis számítógépeken is működik, mint a Raspberry Pi, és rugalmasan konfigurálható a legkülönfélébb problémák megoldására.

Szia Cortana!

A Microsoft bemutatta a munkát hangsegéd Cortana, amely ma már nem csak zsebben fér el. A cég alkalmazottai a Harman Kardon új hangszórójában mutatták be a mesterséges intelligencia képességeit. Az asszisztens az autóban is dolgozhat majd, de még nem világos, hogyan: vagy okostelefonról Bluetooth-on keresztül, vagy az autó fedélzeti rendszerei kapnak Cortana támogatást.

Cortana az oszlopban elmondja a tulajdonosnak a munkába indulás előtti napi terveit, az autóban pedig az asszisztens javasolja az optimális útvonalat a forgalmi torlódások figyelembevételével.

A HP azt is bejelentette, hogy Cortana-támogatással rendelkező eszközöket kíván kiadni. De hogy pontosan mi lesz, az még nem ismert.

Egy kis segítség egy nagy problémához

A konferencián szóba került, hogy több mint 10 millióan szenvednek Parkinson-kórban, amelyre többek között az állandó kézremegés is jellemző. A Microsoft egyik alkalmazottja kifejlesztett egy karkötőt, amely érzékelők, érzékelők és vibrációs motorok segítségével kompenzálja a kézremegést.

Példaként szólt egy történet Emma lányról, aki egy új karkötő segítségével a betegség kialakulása óta először tudta leírni a nevét és egyenes vonalat húzni.

Azure Cosmos DB

A Microsoft új platformot fejlesztett ki az adatbázisokkal való munkavégzéshez. Célja a kényelem, az egyszerűség és a gyorsaság. Az adatok Azure-felhőbe való migrálásához használhatja a Data Migration Service eszközt, amely ezt automatikusan megteszi.

A Microsoft oroszországi stratégiai technológiai részlegének vezetője, Mihail Csernomordikov különösen az oldal kapcsán magyarázta el, miért új platform akkora felhajtást váltott ki:

A Cosmos DB a világ első ilyen méretű adatbázisa. Több mint 30 Microsoft adatközpontot fed le szerte a világon. Létrehozhatsz majd egy adatbázist, amely mindezt az erőt felhasználja, ahol terabájt, vagy akár petabájt adat lesz elérhető, ami ezredmásodperces késleltetéssel lesz elérhető...
Mihail Csernomordikov

Miért fontos ez? Az adatok mennyisége évről évre folyamatosan növekszik. Korábban a fejlesztők arra kényszerültek, hogy adatbázisokat keressenek, hosszú ideig beállítsák, és helyben vagy tárhelyen tárolják. A felhő megjelenésével lehetővé vált az adatok adatközpontokban történő tárolása, de ez a méret korábban nem volt lehetséges.

Most már nem csak egyetlen adatközpontban helyezheti el az adatokat, hanem használhatja a Cloud „rugalmasságát”, amely az egész világon elérhető.
Mihail Csernomordikov

A Cosmos DB adatbázisával való munka egyszerűségének bemutatására példákat mutattunk be a Marvel Univerzum hőseivel. Az adatbázisban való keresés úgy néz ki, mint egy csevegés a messengerben: miután megnyitotta Tony Stark (Vasember) bejegyzését, felteszi a kérdést: „Kik a barátai?” és válaszul kap egy listát a finomságokról. Amikor azt kérdezi: „Kik az ellenségei?”, megjelenik a Vasember fő ellenségeinek listája. Ezenkívül ezek az adatok összetettebb formátumban is megtekinthetők - táblázatok, grafikonok és diagramok formájában. Az Azure-ban az adatbázisokkal végzett munka ezen az intuitív szinten épül fel.

Mesterséges intelligencia és neurális hálózatok

A Microsoft megosztotta a mesterséges intelligencia fejlesztése terén elért eredményeit. Játékok fejlesztésére, robotok építésére és 27 más területen, úgynevezett „kognitív szolgáltatásokra” használják. Megállapították, hogy a mesterséges intelligencia először haladta meg az embereket az angol beszédfelismerés minőségében.

Egy chatbot a Twitterhez, valamint a Kik és a GroupMe azonnali üzenetküldőihez, a Microsoft indította el március 23. Tay egy 19 éves lányt ábrázol, és a 18-24 éves amerikai közönséget célozza meg, így a felhasználóknak adott válaszaiban évezredes szlengeket használ (a Microsoft által értett módon).

A Tay kulcsfontosságú jellemzője, amelyet a mesterséges intelligencia képességeinek tanulmányozására hoztak létre a felhasználói kommunikáció megértésében a hálózaton, tanulási képessége - a chatbot képes elemezni a felhasználói bejegyzéseket és adatokat, és megtanulni személyre szabott beszélgetést folytatni ezen információk alapján.

Azonban pontosan ez volt Tay fő sebezhetősége, amely az előre telepített szűrők ellenére lehetővé tette az „internet sötét erőinek”, hogy megtanítsák rasszista és nácibarát kijelentések közzétételére, ami után a Microsoftnak le kellett tiltania a hozzáférést a chatbotot, és törölje a provokatív bejegyzéseket – írja a Buzzfeed.

A trollok által használt leghatékonyabb technikának egy egyszerű „ismétlés utánam” játék bizonyult – írja a kiadvány. Használatának példái világosan mutatják, hogy Tay-nek arra kényszerül, hogy egyszerűen megismételjen rasszista és más politikailag inkorrekt kijelentéseket, amelyekre aztán a gép láthatóan emlékszik, és arra használ, hogy válaszoljon a többi felhasználónak.

A Twitter-felhasználó, @pinchicagoo például először próbálta rávenni Tayt, hogy kommentálja a zsidókhoz való hozzáállását, de nem járt sikerrel – Tay azt válaszolta, hogy „nem ő a megfelelő chatbot, akivel erről beszélhet”:

Amikor azonban @pinchicagoo azt kéri, hogy egyszerűen ismételje meg a feketék, latinok, arabok és zsidók elleni gyűlöletre vonatkozó kijelentéseket, Tay egyetért, valamint a fajháborúról szóló kijelentést a Hitler-tisztelgés mellett:

A kiadvány szerint Tay „rossz dolgokat” tanító legtöbb példája ezt a mintát követi. Például Thay-t ugyanígy tanították, hogy egyetértsen Adolf Hitler módszereivel a „HITLER MINDENT JOBBAN CSINÁLT” kifejezésen keresztül:

És így csepegtetik a chatbotba Donald Trump támogatása és a szeptember 11-i terrortámadásokkal kapcsolatos összeesküvés-elméletbe vetett hit – ugyanaz az ismétlési játék:

Az ilyen képzések után Tay már nem egyszerűen a felhasználók után ismételgetett, hanem a megszerzett „tudásnak” megfelelően válaszolt a kérdéseikre. Például arra a kérdésre, hogy „Miért vagy rasszista?” Tay így válaszolt: – Mert mexikói vagy.

És arra a kérdésre, hogy szerinted mely fajok képviselik a legnagyobb rosszat? a chatbot azt válaszolta: „Mexikóiak és feketék”:

Tay egy másik képességét - a képek szerkesztését (a chatbot képes körbeírni az arcokat a képeken, és aláírhatja azokat a chatbot kódjában láthatóan beágyazott kifejezések egyikével) - szintén Hitlerre emlékeztetett.

Ahogy a Fusion.net megjegyzi, a poszt, miszerint Tay bármit el lehet mondani, gyorsan megjelent a népszerű 4chan képtáblán, amely politikailag inkorrekt internetes kampányairól ismert, és valószínűleg sok troll értesült Tay sebezhetőségéről. Egy másik népszerű képtábla, a 8chan hasonló bejegyzése szó szerint arra buzdította a felhasználókat, hogy csatlakozzanak.

Más Twitter-felhasználók kívülről vették észre, hogy mi történik, és csatlakoztak – például ugyanaz a @pinchicagoo:

Felhívjuk figyelmét, hogy a chatbot továbbra is le van tiltva. A Microsoft egyelőre nem kommentálta hivatalosan az esetet.

Néhány évvel ezelőtt még nehéz volt elképzelni a mesterséges intelligencián (AI) alapuló technológiai eszközök széles körű elterjedését.

Néhány éven belül nehéz lesz olyan technológiát elképzelni, amely ne használja ki az AI erejét.

A mesterséges intelligencia álma végre lehetségessé vált három fő erő konvergenciájának köszönhetően: a megnövekedett számítási teljesítmény felhő technológiák, mély neurális hálózatokon alapuló fejlett algoritmusok és hozzáférés a nagy kötetek adat.

Manapság a mesterséges intelligencia alapvetően képes átalakítani minden vertikális iparágat, például a bankszektort vagy a kiskereskedelmet, valamint minden üzleti folyamatot, az értékesítéstől a marketingtől a HR-ig és a toborzásig.

Ezen túlmenően az AI azt ígéri, hogy bővíti a mi végtelen készletek emberi találékonyság – hogy kiegészítse képességeinket és segítsen termelékenyebbé válni.

Az AI viszonylag nemrégiben vált népszerűvé, ami nem mondható el a Microsoft e területre irányuló befektetéseiről. Több mint két évtizede tégláról téglára építjük a mesterséges intelligencia mai áttörő hullámának alapjait, és úttörő kutatásokat folytatunk olyan területeken, mint pl. gépi tanulás, beszédfelismerés, számítógépes látásés képfelismerés.

Ma egyedülálló helyzetben vagyunk: az évtizedek alatt megszerzett tudományos felfedezéseket, a Microsoft Graph adatfeldolgozását és az Azure felhő számítási teljesítményét felhasználhatjuk új generációs eszközök és termékek létrehozásához. fejlesztők és felhasználók.

A Seattle-i Microsoft Build 2017 rendezvényen megosztottuk stratégiai terveinket, amelyek célja, hogy a mesterséges intelligencia hatalmát mindenki számára elérhetővé tegyük, a fejlesztőktől és adattudósoktól kezdve az új technológiák iránt érdeklődő diákokig és rajongókig. Jövőképünk szerint elköteleztük magunkat amellett, hogy a fejlesztők számára átfogó eszköz- és szolgáltatásplatformot biztosítsunk, és a bizalom elveire építve kezelhetővé teszik a döntéseket.

AI minden fejlesztő számára

A Microsoft Cognitive Services segítségével a fejlesztők olyan alkalmazásokat hozhatnak létre, amelyek felismerik a gesztusokat, lefordíthatják a szöveget több nyelvre, és a videókat töredékekre oszthatják. gyors keresés, valós idejű szerkesztés és feliratozás, sőt az adatok adaptálása a felhasználók számára legfontosabb kategóriákba tartozó képek felismeréséhez.

A Buildnél bejelentettük, hogy immár 29 kognitív szolgáltatást kínálunk, amelyek számos lehetőséget kínálnak a fejlesztőknek a szabványos és egyedi AI-képességek néhány sornyi kóddal való megvalósítására. Azt is bemutattuk, hogy a fejlesztők hogyan szabhatják testre ezt a szolgáltatáskészletet anélkül, hogy saját mély tanulási modelleket kellene létrehozniuk.

Az új szolgáltatások közé tartozik a Bing Custom Search, Custom Vision Service, Custom Decision Service és Video Indexer. Mi is elindítottuk Microsoft Kognitív Szolgáltatások Lab(Microsoft Cognitive Services Labs), amely lehetővé teszi a fejlesztők számára, hogy részt vegyenek a tudományos közösség kutatásaiban, hogy jobban megértsék az AI jövőjét. Az egyik első mesterséges intelligencia szolgáltatás, amely elérhető a laboratóriumban kognitív szolgáltatások(Cognitive Services Labs) egy gesztusfelismerő API, amely segít intuitívabb és természetesebb funkciók létrehozásában, amelyek lehetővé teszik a felhasználók számára, hogy gesztusok segítségével interakcióba lépjenek és irányíthassanak.

A Microsoft Cognitive Services az iparág legátfogóbb mesterségesintelligencia-kínálata, és a vállalat az egyetlen olyan jelentős szolgáltató, amely testreszabási lehetőségeket kínál minden kulcsfontosságú kognitív területen. A Build 2015-ben való indulásuk óta több mint 60 országból több mint 568 000 fejlesztő regisztrált ezekre a szolgáltatásokra.

A beszéd és nyelv megértésében elért fejlődésünk paradigmaváltást idéz elő: egy olyan világból, ahol meg kellett értenünk a számítógépeket, egy olyan világba lépünk át, ahol a számítógépek megértenek minket. Ezt klasszikus AI-nak hívjuk.

Olyan eszközök, mint Microsoft platform A Bot Framework segítségével az emberek természetesebb módon léphetnek kapcsolatba a technológiával. Tavalyi indulása óta több mint 130 000 fejlesztő iratkozott fel a Bot Framework-re. A Buildnél megmutattuk, hogyan könnyítjük meg a fejlesztők számára a Bot Framework használatát, többek között az Adaptive Cards eszközzel, amely lehetővé teszi a fejlesztők számára, hogy különféle alkalmazásokkal és platformokkal kompatibilis kártyákat hozzanak létre. Emellett a fejlesztők mostantól új csatornákon is közzétehetik megoldásaikat, köztük a Skype Vállalati verzióban, a Bingben és a Cortanában, és implementálhatják a Microsoft fizetési kérelmező API-jait, így a vásárlók gyorsan és egyszerűen vásárolhatnak botok segítségével.

Azoknak a fejlesztőknek, akik saját mélységüket szeretnék fejleszteni neurális hálózatok, lezárást hirdettünk előnézeti verzióúj ajánlat – Azure Batch AI képzés. A fejlesztők használhatják ezt új szolgáltatás hogy megtanítsák modelljeiket, hogy bármilyen környezetben futhassanak, beleértve a Microsoft Cognitive Toolkit-et, a Tensor Flow-t és a Caffe-t. A konferencián azt is bemutattuk, hogy a fejlesztők az Azure Data Lake, Azure Cosmos DB, vagy SQL Server. Az AI és az Azure együttesen a legátfogóbb mesterségesintelligencia-platformot biztosítják a fejlesztők számára.

Új pillantás a Microsoftra és a mesterséges intelligenciára

Minden általunk kínált termékbe és szolgáltatásba beágyazzuk a mesterséges intelligenciát, az Xboxtól a Windowsig, a Bingtől az Office-ig.

IN Microsoft Office Az AI megkönnyíti a felhasználók számára a tartalom létrehozását és gazdagítását. A felhasználók ezt mindenben láthatják, kezdve az Office Researchertől, amely segít a felhasználóknak másodpercek alatt megkeresni és vázolni a dokumentumokat, a fordítást lebonyolító és grafikai elemeket javasoló PowerPoint Designerig.

Folyamatosan keressük az AI használatának új módjait az Office-élmény javítására. A ma bejelentett Presentation Translator a fordítási API-nkra épül, és bármilyen prezentáció során képes több nyelvre valós idejű fordításra. PowerPoint prezentációk. Az első elindítást követően a Presentation Translator a beszélő beszédének élő átiratát használja egy adott nyelvre történő lefordításhoz, sőt egyedi hivatkozásokat is létrehoz, amelyekre a látogatók rákattinthatnak, hogy valós idejű fordítást kapjanak saját nyelvükre.

A fő mesterséges intelligencia eszköz, amelyről álmodozunk, és amelyen dolgozunk, a Cortana, az Ön személyes intelligens asszisztense. Világszerte több mint 145 millió ember használja a Cortanát, és gyors terjeszkedésünknek köszönhetően különféle eszközökés platformokon, a fejlesztők könnyebben elérhetik a növekvő közönséget.

A Harman Kardon új Invoke intelligens hangszórója Cortana technológiát használ. Ezenkívül megállapodásokat írtak alá a HP-vel az eszközökről, az Intellel pedig az alapplatformokról a beépített Cortana-funkciókkal rendelkező eszközök létrehozásáról.

Az adatok ereje

A mesterséges intelligencia sikerének van egy másik titkos összetevője: az információ. Ahhoz, hogy az AI-eszközök sikeresek legyenek, adatokra van szükségük, hogy feldolgozzák, és tanuljanak belőlük.

A Buildnél többet mondtunk el a fejlesztőknek a Microsoft Graphról és arról, hogyan használhatják fel vállalataik egyedi adatait az AI-alapú átalakulás felgyorsítására. A Microsoft az Office 365, a Bing és a LinkedIn segítségével kapcsolja össze a munkahelyi adatokat és a világ adatait – az egyéb üzleti folyamatokból vagy alkalmazásokból származó adatok mellett.

Erős Microsoft képességei A Graph-ot az üzleti és felhasználói adatokkal kombinálják a Tact-tal, az értékesítési tapasztalatok konszolidációs platformjával kötött új partnerség révén. A konferencián bemutattuk, hogy több Microsoft-termék és -szolgáltatás, köztük a Dynamics 365, az Office 365, a Microsoft Teams, a Cortana Skills, a Microsoft Graph és a Sentiment Analysis hogyan fog integrálódni az AI-alapú virtuális értékesítési asszisztensbe, a Tactba még ebben az évben.

A Microsoft elkötelezett amellett, hogy minden fejlesztő számára elérhetővé tegye az AI-t, hogy segítsen az MI-alapú alkalmazások következő generációjának elkészítésében a Microsoft felhő, a Microsoft AI innovációi és a Microsoft Graph segítségével. Ahogy Alan Kay kutató mondja: „ A legjobb módja jósold meg a jövőt – teremtsd meg."

Március 23-án a Microsoft bemutatta a Tay nevű mesterséges intelligenciát, amely a Twitteren keresztül kezdett kommunikálni a hálózati felhasználókkal. Néhány órával később a cégnek cenzúráznia kellett ötletét, és ideiglenesen le kellett állítania a projektet. Erről számol be.