Y Combinator Garry Tan palaiko tam tikrą AI reguliavimą, bet įspėja dėl AI monopolijų

Garry Tanas, „Y Combinator“ prezidentas ir generalinis direktorius, šią savaitę Vašingtono ekonomikos klube miniai sakė, kad dirbtiniam intelektui „greičiausiai reikalingas reguliavimas“.

Tanas kalbėjosi su Teresa Carlson, „General Catalyst“ valdybos nare per asmeninį pokalbį, kuriame jis aptarė viską nuo to, kaip patekti į „Y Combinator“ iki dirbtinio intelekto, pažymėdamas, kad „nėra geresnio laiko dirbti technologijų srityje nei tinkamas. dabar“.

Tanas teigė, kad „visiškai palaiko“ Nacionalinio standartų ir technologijų instituto (NIST) bandymą sukurti „GenAI“ rizikos mažinimo sistemą ir teigė, kad „didelė Bideno administracijos EO dalis tikriausiai eina teisingu keliu“.

NIST sistema siūlo tokius dalykus kaip apibrėžti, kad GenAI turėtų atitikti esamus įstatymus, reglamentuojančius tokius dalykus kaip duomenų privatumas ir autorių teisės; GenAI naudojimo atskleidimas galutiniams vartotojams; nustatomos taisyklės, draudžiančios GenAI kurti medžiagą apie seksualinę prievartą prieš vaikus ir pan. Bideno vykdomasis įsakymas apima daugybę taisyklių: nuo reikalavimo dirbtinio intelekto įmonėms dalytis saugos duomenimis su vyriausybe iki užtikrinimo, kad smulkieji kūrėjai turėtų sąžiningą prieigą.

Tačiau Tanas, kaip ir daugelis Slėnio VC, buvo atsargus dėl kitų reguliavimo pastangų. Jis pavadino sąskaitas, susijusias su AI, kurios perkeliamos per Kalifornijos ir San Francisko įstatymų leidybos institucijas, „labai susirūpinimą“.

Kaip ir vienas Kalifornijos įstatymo projektas, keliantis ažiotažą, yra tas, kurį pateikė valstijos senatorius Scottas Wieneris, kuris leistų generaliniam prokurorui paduoti į teismą dirbtinio intelekto įmones, jei jų prekės yra žalingos, praneša „Politico“.

„Šiuo metu vyksta didelė diskusija apie politiką, kaip iš tikrųjų atrodo gera to versija? Tanas pasakė. „Galime žiūrėti į tokius žmones kaip Ianas Hogarthas iš JK, kad jie būtų apgalvoti. Jie taip pat atkreipia dėmesį į šią galios koncentracijos idėją. Tuo pačiu metu jie bando išsiaiškinti, kaip mes palaikome naujoves, kartu sumažindami didžiausią įmanomą žalą.

Hogarthas yra buvęs YC verslininkas ir AI ekspertas, kurį JK paskyrė dirbtinio intelekto modelių darbo grupei.

„Mane gąsdina tai, kad jei bandysime išspręsti mokslinės fantastikos problemą, kurios nėra po ranka“, – sakė Tanas.

Kalbėdamas apie tai, kaip YC valdo atsakomybę, Tanas sakė, kad jei organizacija nesutinka su startuolio misija arba tuo, ką tas produktas padarytų visuomenei, „YC tiesiog jo nefinansuoja“. Jis pažymėjo, kad yra kelis kartus, kai žiniasklaidoje perskaitė apie įmonę, kuri kreipėsi į YC.

„Grįžtame ir žiūrime į interviu užrašus, ir atrodo, kad nemanome, kad tai naudinga visuomenei. Ir, laimei, mes to nefinansavome“, – sakė jis.

Dirbtinio intelekto lyderiai nuolat maišosi

Tano gairėse Y Combinator vis dar paliekama erdvė, kad galėtų paskatinti daug dirbtinio intelekto pradedančių įmonių kaip kohortos absolventų. Kaip pranešė mano kolega Kyle'as Wiggersas, 2024 m. žiemos grupė turėjo 86 dirbtinio intelekto įmones, beveik dvigubai daugiau nei 2023 m. žiemos grupėje ir beveik trigubai daugiau nei 2021 m. žiemą, rodo oficialus YC startuolių katalogas.

O pastarieji naujienų įvykiai verčia žmones susimąstyti, ar jie gali patikėti, kad tais, kurie parduoda AI produktus, bus atsakingi AI. Praėjusią savaitę „TechCrunch“ pranešė, kad „OpenAI“ atsikrato savo AI atsakomybės komandos.

Tada nesėkmė buvo susijusi su įmone naudojant balsą, kuris skambėjo kaip aktorės Scarlet Johansson demonstruojant naują GPT-4o modelį. Pasirodo, jos buvo paklausta, kaip naudoti savo balsą, ir ji juos atmetė. Nuo tada „OpenAI“ pašalino „Sky“ balsą, nors neigė, kad jis pagrįstas Johanssonu. Tai ir problemos, susijusios su OpenAI gebėjimu susigrąžinti darbuotojų kapitalą, buvo tarp kelių dalykų, paskatinusių žmones atvirai suabejoti Samo Altmano skrupulais.

Tuo tarpu „Meta“ paskelbė apie savo dirbtinio intelekto naujienas, kai paskelbė apie AI patariamosios tarybos, kurioje dirba tik baltieji vyrai, sukūrimą, todėl moterys ir spalvotieji žmonės, kurių daugelis vaidino pagrindinį vaidmenį kuriant ir diegiant šią tarybą, buvo sukurti. industrija.

Tanas nenurodė nė vieno iš šių atvejų. Kaip ir dauguma Silicio slėnio rizikos kapitalo įmonių, jis mato naujų, didžiulių ir pelningų įmonių galimybes.

„Mums patinka galvoti apie startuolius kaip apie idėjų labirintą“, – sakė Tanas. „Kai atsiranda nauja technologija, pavyzdžiui, dideli kalbiniai modeliai, visas idėjų labirintas sukrečia. Pats „ChatGPT“ tikriausiai buvo vienas greičiausiai pasisekusių plataus vartojimo produktų, išleistų pastaruoju metu. Ir tai gera žinia steigėjams.

Dirbtinis ateities intelektas

Tanas taip pat sakė, kad San Franciskas yra AI judėjimo centre. Pavyzdžiui, čia prasidėjo Anthropic, kurį pradėjo YC alumnai, ir OpenAI, kuris buvo YC spinout.

Tanas taip pat juokavo, kad neketina sekti Altmano pėdomis, pažymėdamas, kad Altmanas „mano darbą dirbo prieš keletą metų, todėl neketina kurti dirbtinio intelekto laboratorijos“.

Viena iš kitų YC sėkmės istorijų yra teisinių technologijų startuolis Casetext, kuris 2023 m. pardavė Thomson Reuters už 600 mln. generatyviniame AI.

Žvelgdamas į dirbtinio intelekto ateitį, Tanas sakė, kad „akivaizdu, kad turime būti protingi dėl šios technologijos“, nes ji susijusi su bioteroro ir kibernetinių atakų rizika. Tuo pat metu jis sakė, kad turėtų būti „daug labiau išmatuotas požiūris“.

Jis taip pat daro prielaidą, kad greičiausiai nėra modelio „nugalėtojas imk viską“, o veikiau „neįtikėtinas vartotojų pasirinkimo laisvės sodas ir įkūrėjų, galinčių sukurti tai, kas paliečia milijardą žmonių“.

Bent jau taip jis nori, kad tai atsitiktų. Tai būtų jo ir YC interesų labui – daug sėkmingų startuolių grąžina investuotojams daug pinigų. Taigi labiausiai Taną gąsdina ne piktieji dirbtiniai intelektai, o AI trūkumas, iš kurio galima rinktis.

„Mes iš tikrųjų galime atsidurti šioje kitoje tikrai monopolinėje situacijoje, kai labai susikoncentruojame tik keliuose modeliuose. Tada jūs kalbate apie nuomos išgavimą ir turite pasaulį, kuriame aš nenoriu gyventi.


Source link

Parašykite komentarą

El. pašto adresas nebus skelbiamas. Būtini laukeliai pažymėti *

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - VeidoskaitaTeniso treniruotės -