Zvýšený důraz na řízení umělé inteligence (AI) v rámci ESG vzniká v reakci na potenciální rizika, která používání AI přináší, zejména v oblasti etiky a udržitelnosti. V roce 2024 se předpokládá, že regulační orgány budou klást větší důraz na legislativní rámce pro AI, zejména na to, jak zajišťovat zodpovědné používání AI, aby se předešlo diskriminaci, zaujatosti a šíření dezinformací. USA, Evropská unie, Velká Británie a další země zavádějí nařízení nebo pokyny k tomu, jakým způsobem mohou být systémy AI využívány odpovědně.

Hlavní oblasti, na které se zaměřují nové regulace:

1. Diskriminace a etické riziko: AI může neúmyslně posilovat zaujatost, protože se často učí na historických datech, která mohou obsahovat předsudky. Nové regulace proto požadují, aby firmy sledovaly způsob, jakým AI používají, a zajistily, že se předejde diskriminačním rozhodnutím, např. v oblasti náboru zaměstnanců nebo poskytování úvěrů.
2. Průhlednost a vysvětlitelnost: Od firem se očekává, že budou schopny vysvětlit rozhodnutí, která systémy AI činí, a to zejména v případech, kdy AI ovlivňuje zákaznická rozhodnutí nebo hodnocení zaměstnanců. V USA například nedávný výkonný příkaz z října 2023 vyžaduje, aby federální agentury zajistily bezpečné a transparentní používání AI, včetně opatření proti neúmyslné zaujatosti a diskriminaci.​

3. Dopady na zaměstnance: Vzhledem k tomu, že AI může zásadně ovlivnit pracovní trh (např. automatizací pracovních míst), nové regulace zahrnují opatření k ochraně zaměstnanců. Spojené státy například plánují do roku 2024 vydat pokyny pro používání AI v hodnocení práce a bezpečnosti práce, což má zajistit, aby AI neohrožovala práva zaměstnanců​.4.
4. Zavádění odpovědných a udržitelných AI praktik: V rámci ESG strategie se klade důraz na to, aby AI podporovala udržitelné a zodpovědné podnikání. To zahrnuje i transparentní zveřejňování informací o tom, jak jsou modely AI trénovány a jaká rizika s sebou jejich použití nese. Roste také trend integrace ESG aspektů přímo do AI systémů, které mají hodnotit environmentální dopady či sociální odpovědnost​

Celkově lze očekávat, že odpovědné používání AI se stane klíčovým faktorem v rámci ESG, což podpoří nejen důvěryhodnost firem, ale i jejich konkurenceschopnost na trhu, který stále více zohledňuje etické aspekty technologií.