Kritiikki

Tekoälyn personoinnissa on otettava huomioon kulttuurierot. Siinä missä suomalaiset ovat tottuneet niukkasanaiseen ja vähäeleiseen kommunikointiin, voi vastaavalla mallilla toimiva järjestelmä tuntua toisen kulttuurin edustajasta jopa töykeältä. Viesti voi myös jäädä epäselväksi. Suomalainen ymmärtää ilmaisun "ostoskoriin", kun tarkoitetaan valitun tuotteen viemistä esimerkiksi verkkokaupan ostoskoriin. Englanninkielinen pelkkä prepositioilmaisu "into the basket" voi olla monitulkintainen, sillä monissa kulttuureissa verbi kuuluu olennaisena osana kehotusta. Vastaavasti amerikkalainen, toisinaan jopa ylitsevuotava kohteliaisuus tuntuu vieraalta suomalaisessa jäyhässä, mutta asiallisessa kaupankäynnissä. Liian universaali ja globaali persoonallisuusmalli ei toimi uskottavasti eri kulttuureissa. Esimerkiksi espanjalainen puheen nopeus saa suomalaisen väistämättä miettimään: "miksi moinen hoppu?" Vastaavasti ranskalaisen tapa elehtiä käsillään herättää kysymyksen: "mitä siinä huidot?"

Ihmisillä persoonallisuus kehittyy iän myötä. Kehitykseen vaikuttavat niin ympäristö kuin yksilön henkilökohtainen elämänkehityskin. Monet tekoälyn personointia tutkineet ryhmät ovat esitelleet persoonallisuusteorioiden adaptointia tietokonejärjestelmiksi, mutta harvat ovat ottaneet kantaa personoidun tekoälyn kehittymiseen ajan myötä. Jos tekoälyjärjestelmä on suunniteltu pitkäikäiseksi, tulee virtuaalihenkilön, esimerkiksi agentin, persoonallisuuden kehittyä järjestelmän elinkaaren ja ympäristön mukaan. Erityisen tärkeää kehitys on järjestelmissä, joihin ihminen voi kiintyä tai joita ihmiset käyttävät pitkän ajan kuluessa. Kehityksessään jälkeenjäänyt agentti kuulostaa vuosien kuluttua absurdilta eikä ole enää uskottava. Tekoälyn persoonallisuuden kehitys inhimilliseen tapaan johtaa väistämättä filosofiseen kysymykseen: "Onko virtuaalihenkilön kuoltava vanhuuttaan?"

Tekoälyn personointi ei saa mennä myöskään liian pitkälle. Ihmisten olisi jatkuvasti kyettävä erottamaan, milloin vastapuolena on kone ja milloin toinen ihminen. Liian aidontuntuinen järjestelmä alkaa ennen pitkää herättää epäluuloa, kun tekijät katoavat tietojärjestelmän kulisseihin. Markkinatalous ja teollisuus ottavat varmasti mielellään vastaan tekoälyn tuomat edut. Eräät tutkimukset ovat osoittaneet, että pitkälle personoitu tekoäly täsmällisesti asiakkaan persoonallisuuteen sovitettuna voi jopa lisätä kaupankäyntiä tai ainakin se voi vaikuttaa ostokäyttäytymiseen. Tämän pitäisi herättää samanlaista eettistä keskustelua kuin lapsille suunnattu mainonta. Robottien valtaama Maa ja ihmiskuntaa hallitseva keinotekoinen älykkyys ovat tuon tuostakin tieteiskirjallisuuden aiheena. Koneiden heikkoutena on kuitenkin niiden ulkoisen energian tarve aivan kuten ihmisilläkin.