silhouette

Zákaz využití AI

TMOU 24

Zpět na seznam vláken


E
Eskymáci (Radek) #1 5. 11. 2023 17:48

Mám dotaz na organizátory i hráče ohledně zákazu použití jazykových modelů a pokročilé umělé inteligence. Máte pocit, že by to někde pomohlo? Kde a jak moc? Dokážete někdo třeba i zpětně nějak aplikovat tyto věci na šifry z hry či kvalifikace?

Ptám se mimo jiné z pohledu organizátora Sendviče. Zakazovat využití jazykových modelů mi přijde neelegantní, už proto, že je dost těžko vymezitelné „co se počítá“. Google už se dneska za (pokročilou) AI nepočítá? Rozpoznávání obrázků? Vyhledávání melodií? Ale možná přehlížím nějaké možnosti využití jazykových modelů a jejich potenciální dopad na dojem z šifrování.


K
Kamzíky (Mišo) #2 5. 11. 2023 20:11

Tiež sme uvažovali, či je napríklad poriadku pri analýze obrázkov v šifričke J povolené riešiť skrz Google Lens, neprišlo nám to úplne jasné.


KZ
Krásný ztráty (Photon) #3 5. 11. 2023 21:09

Ahoj,

Jedna oblast, kde by to určitě pomohlo, jsou pracné „algoritmizova­telné“ šifry. Teoreticky stačí odfotit a zadání nadiktovat i za pochodu. Jako příklad uvedu šifru 7, kde by to asi zrovna dramatická pomoc nebyla, ale je to jen příklad:

Přepsání zadání šifry do pole

„Vygenerování programu dle krátkého popisu problému“: https://www.drop­box.com/scl/fi/­en3i5pck3w9qym7p6kkqw/TM­OUAI1b.png?rlke­y=mwceruqadmszsfj4po3lg­j98i&dl=0

„Spuštění programu“: https://www.drop­box.com/scl/fi/­guvi3fkiqqoyl9u­ul6uwn/TMOUAI2­.png?rlkey=jk6spn07sv­ad0asiam6e5aow9&dl=0

O něco silnější bude kombinace zpracovávat fotku (jako na příkladu výše) a interně spouštět Python (ani nevím, jestli je už možné kombinovat tyto dvě funkce ChatGPT-4 najednou). Tam by si to ten program napsalo, našlo slova a provedlo různé vizualizace výsledku ještě efektivněji. A za rok budeme zase někde jinde.

Další oblast využití je agregace kvanta výsledků hledání z Internetu, kdy procházení samotných výsledků zabere někdy dost času. Jedna věc je, že Google vrátí relevantní stránky, ale něco jiného je to, že mi kolega LLM tyto stránky přečte a vypíše mi přesně jen to, co potřebuji.

Photon


Org
Organizátoři (Petr Valášek) #4 6. 11. 2023 11:07

[1] Obecně jsme si vědomi, že ten zákaz zní trochu mlhavě, možná by se dal přeformulovat velice volně takto: můžeš použít umělé inteligence k tomu, k čemu můžeš použít náhodné okolojdoucí, tzn. k zjištění encyklopedických informací, např.:

  • kdo jsou lidé na těchto obrázcích?
  • kdo to hlavní postavou prvního dílu Star Trek?
  • kde je tady nejbližší smrk?
  • existuje slovo psychrometrie?

ale už je za hranou používat ho na intelektuální úkony, které sahají dále za hranici znalosti nějaké informace, např.:

  • co mají společného lidé na těchhle obrázcích?
  • v jakém filmovém díle, které obsahuje „Star“ nebo „Wars“ vystupuje hlavní postava, jejíž jméno a příjmení má devět písmen?
  • je někde v mojí blízkosti a směrem, ze kterého jsem přišel, objekt, který by se dal popsat čtyřmi souhláskami?
  • existuje třináctipísmenné slovo, které má na druhé, páté a osmé pozici písmena H, M a S v libovolném pořadí a nikde jinde se nevyskytují?

Přičemž víme, že to poslední lidé dělali a věděli jsme, že budou (i bez AI) a jsme k tomu (z nedostatku dobrého jiného řešení) tolerantní, stejně jako třeba k sudoku solverům.

Konkrétně jsme nemysleli na nějakou specifickou šifru, spíše na to, že jsme v době formulace pravidel nedokázali předpovědět, jak překotný bude další vývoj vlastností jazykových modelů.


Org
Organizátoři (Petr Valášek) #5 6. 11. 2023 11:28

napadlo mě ještě zkusit na bing chat vyřešit logickou úlohu ze šifry Závod, ale nezvládl to. Za to přidal falešný link na diskusi na eMimino (vede na wiki o rodném čísle). Tohle by za mě už bylo za hranou. Kdyby se to někomu povedlo, dejte vědět, já v tom nejsem zběhlý.

Co se týče Sendviče, tak situace je komplikovanější tím, že od Sendviče se očekávajá pár googlicích šifer, takže to pokušení použít chatovací interface je daleko větší.


K
Kamzíky (Tess) #6 6. 11. 2023 13:12

[4] To mě třeba napadá k poslednímu příkladu. Jednak teda se takto podobně dost dobře „podvádělo“ při Wordle, ale spíš mě napadlo, využití u 1 ORLOJ. Pointa šifry byla vlastně písmena správně seřadit podle ciferníku, ale pokud bychom zadali souběh písmen to nějakého toolu na automatické přehazování písmenek, tak ono to vlastně asi nedá úplně ten správný výsledek, protoýže to jsou dvě slova spojené dohromady, ale i tak je to velká pomoc, protože když to vyplivne něco aspoň podobné těm slovům, tak už se člověk může jednodušeji dovtípit. Dokážu si právě představit, že to lidi budou používat, ale je to tak na hraně, že by se to spíš dělat nemělo.



E
Eskymáci (Radek) #8 6. 11. 2023 15:14

[7] Dobrý, pěkné demo, co GPT4 zvládá. Jako „důvod k zákazu“ mi tento typ využití ale nepřijde – hlavní myšlenka úlohy tam je externě dodaná, je to „jen“ urychlení vyřešení. A předpokládám, že v případě realizace celého procesu na mobilu by to až takové urychlení nebylo. To mi přijde, že třeba zmíněné vyhledávače přesmyček / regexpů jsou daleko výraznější urychlovač.


Org
Organizátoři (Petr Valášek) #9 6. 11. 2023 15:36

[7] Wow! Připadá mi to jak jaderná fúze – zatím to požaduje více práce, než je to schopné vyprodukovat, ale ten potenciál tam je.

[8] Souhlasím, viděl jsem taky pomůcky (nebudu linkovat), které pomocí prostých algoritmů řešily heuristicky mřížku, regexovaly proti mapě a podobně, což je podle mě taky daleko užitečnější (a více za hranou). Spíše to ale ukazuje ten směr, kam se to může ubírat, protože zatímco sudoku solver nebo řešitel šachových dvojtahovek už se zlepšovat nebude a můžeme se o něm explicitně rozhodnout, u jazykových modelů a umělé inteligence obecně nevíme, co všechno je reálné a jestli to má potenciál šifrovačky pokazit.


KZ
Krásný ztráty (Photon) #10 6. 11. 2023 22:50

Přestože moje příklady používají GPT4 pouze jako „dělníka“, tak to nemusí znamenat, že by tyto modely nemohly fungovat i pro primární analýzu šifry. Tušil bych, jakou cestou by se to mohlo vzít, ale nedovedu odhadnout, jak moc efektivní by to bylo. Bylo by potřeba si to předpřipravit. Problém je taky ten, že by se každý tým mohl brzo cítit „pozadu“, pokud si nezaplatí nejlepší dostupnou AI. Ještě jeden příklad, byl jsem sám trošku překvapen

https://chat.o­penai.com/sha­re/ec850192–8262–42a3–9c07–9e3ea38f8cca


Org
Organizátoři (Petr Valášek) #11 7. 11. 2023 09:52

[10] TO JSI TOHO NECHAL V NEJLEPŠÍM??? JAK TO DOPADLO??? JAK TO DOPADLO???


Org
Organizátoři (Petr Valášek) #12 7. 11. 2023 09:55

…ale vážně, docela zajímavé by bylo začít používat AI jako testery, tenhle příklad hezky ukazuje, že kromě ochomýtání se kolem správného postupu je schopna vyprodukovat i nějaké slepé cesty (trojany), což se může hodit.


KZ
Krásný ztráty (Photon) #13 7. 11. 2023 13:01

Na webovém rozhraní OpenAI je „neviditelné“ plovoucí okno kontextu, a pravděpodobně bych ho už překročil, kdybych se celou šifru pokusil dotáhnout až do konce, a mohlo by to být trochu anti-klimatické. Zkusím to dokončit přes API metody GPT-4, kde mám k dispozici i větší plovoucí okno. Je to hodně zajímavý test AI, vůbec jsem nečekal, že mi správný nápad takto naservíruje.


KZ
Krásný ztráty (Photon) #14 8. 11. 2023 09:00

Slíbený pokus o dokončení celé šifry v jednom tahu pomocí API několik dní čerstvé GPT-4 Turbo. Začátek jsem zkopíroval a zkrátil, aby se to celé vešlo do 8k tokenů. Udělal sice ve finále chyby, ale přesto dobrý:

https://share­.phot.cz/zavod­.html


Org
Organizátoři (Petr Valášek) #15 8. 11. 2023 09:43

Skvělá práce, dík!


AV
Aplikovaný voy-a-ger (Václav) #16 9. 11. 2023 12:24

Trošku děsivé, ale fascinující. A nejde jen o samotné schopnosti AI, ale i o to, jak hezky „lidsky“ jste si pokecali. Během šifrovačky položím spoustu otázek typu, proč je něco v šifře použito tak a tak. Zpravidla bez odpovědi (teda zpravidla přinejmenším bez okamžité odpovědi). Při představě, že by mi mohla takřka instantně nahazovat možná vysvětlení AI, se mi jeví její zákaz jako opravdu vhodný. A teda nebránil bych se ani pravidlům (či univerzálnímu kodexu), který by zákaz příkladmo konkretizoval nebo rozšířil i na některé praktiky dnes běžně používané (např. sudoku solver) či praktiky, které jsou asi za hranou, ale možná ne pro všechny (např. nástroj na vyhledávání smysluplných tajenek při použití všech v úvahu přicházejících mřížek). Je mi v zásadě jedno, jaká pravidla jsou, ale nechávat to na pravidlu fair play za mě není úplně nejlepší.


Org
Organizátoři (Petr Valášek) #17 9. 11. 2023 12:33

Nejsem proti. Já bych třeba byl pro zákaz programování, i když jsem si kvůli tomu koupil tablet :-)


NT
Název týmu: (zruda) #18 10. 11. 2023 11:19

Možná jen obecně k různým praktikám. Třeba Sudoku solver jsme používali, a ani nás nenapadlo, že by to mělo být něco špatného. Protože už šlo jen o to, doluštit sudoku a přečíst tajenku. Analýzou jsme věděli, co a jak číst, ale potřebovali jsme doluštit to sudoku.

Podobně to bylo i u jiných šifer a šifrovaček. Jakmile jsme věděli, co a jak, někdy jsme použili rychlý dekodér na přeskočení těch otravných částí. Což v našem případě by znamenalo, ChatGPT a podobné nepoužívat a nástroje na prohledávání možných tajenek taky ne. Protože tyhle nástroje bychom typicky využili v době, kdy ještě nevíme, co s tím.

Sám nevím, jak nastavit podobná pravidla, protože nevidím přesnou hranici. On i ten sudoku solver se dá použít v době vrhání nápadů pro rychlé ověření.

Rozhodně je to zajímavý problém a jsem zvědavý, jak se s tím orgové popasují.


T8K
Triky 8. kejkle (Petr) #19 10. 11. 2023 19:56

Myslím si, že není mnoho šifer, u kterých by šla AI (nyní) využít jako u této vybrané. Najdete v letošním ročníku některou jinou, netextovou, u které AI nějak významně pomůže? Nedělal bych z toho takového strašáka. A stejně jako u GPS bych nešel opět cestou „zakazuje se“, to je cesta do pekel. V příštích letech se objeví další a další „zakazuje se“. Spíš bych šel cestou přizpůsobení se orgů, kteří nejlíp vědí, v čem konstrukce šifry spočívá, a jak ji modifikovat, aby ji udělali AI-rezistentní. Ale co mě docela vyděsilo, je názor: „nechávat to na pravidlu fair play za mě není úplně nejlepší“. Jak je to myšleno? Jakože dodržování pravidel by nemělo být ponecháno jako u každé hry na fair-play, ale mělo by být vynucováno nějakým kontrolním opatřením?


R
ROFLCOPTER! (Ondra) #20 11. 11. 2023 10:20

V případě venkovních šifrovacích her, jako je TMOU, kde je povoleno používání umělé inteligence (AI), bychom se mohli obávat, že využití AI by mohlo výrazně změnit charakter hry a vyžadovalo by úplně odlišné dovednosti. Zde jsou některé důvody, proč byste možná nechtěli hrát venkovní šifrovací hry s povolením používání AI:

Změna dynamiky hry: Přidání umělé inteligence může změnit způsob, jakým jsou hádanky navrženy a jakým způsobem se hraje. To by mohlo způsobit, že hra není tak týmová nebo že se zdůrazňuje spíše schopnost využívat technologii než týmovou spolupráci a kreativitu.

Přehnaná závislost na technologii: Používání umělé inteligence může vést k tomu, že hráči se spoléhají na technologii namísto na své vlastní schopnosti a myšlení. To by mohlo snížit osobní výzvy a zábavu spojenou s ručním řešením hádanek.

Ztráta autentičnosti zážitku: Venkovní puzzlehunt je často o objevování fyzického prostoru, spolupráci v týmu a řešení hádanek v reálném prostředí. Přidání umělé inteligence by mohlo odstranit tuto autentičnost a změnit fokus zážitku.

Riziko nerovného boje: Pokud někteří hráči používají AI a jiní ne, může to vést k nerovnosti mezi týmy. Ti, kteří mají přístup k lepší nebo sofistikovanější technologii, by mohli mít nečestnou výhodu, což by mohlo snížit soutěžní charakter hry.

Celkově lze říci, že používání umělé inteligence by mohlo změnit podstatu venkovních hádanek a přenést důraz na technologii spíše než na dovednosti a týmovou spolupráci, což by nemuselo být v souladu s původním záměrem a charakterem těchto her.


J
Jméno #21 11. 11. 2023 22:01

No, třeba se časem dočkáme, že v pravidlech kromě „Telefon s aplikací mapy.cz; doporučujeme stáhnout aktuální offline mapu Jihomoravského kraje“ bude i něco jako „AI od firmy XYZ; doporučujeme verzi A.B.C“.

Prozatím by bylo zajímavým experimentem, kdyby na alespoň jedné hře hodnocené Statkem bylo použití (neplacené?) AI povoleno s tím, že se počítá za člena týmu (každá použitá AI za jednoho) a že se musí pro Statek správně identifikovat. Nejdřív by kromě nadšenců a samotářů nejspíš sloužily jen jako náhradník, když někdo na poslední chvíli onemocní, ale časem… Ze statku by bylo vidět, jak se která AI zlepšuje/ nakolik je užitečná; což by bylo užitečné jak pro hráče, tak pro orgy.


HR
Hledám Radka (Mirek) #22 11. 11. 2023 22:24

[20] Rozumím obavám, které vyjadřuješ ohledně používání umělé inteligence ve venkovních šifrovacích hrách, ale dovol mi nabídnout alternativní pohled, který zdůrazňuje potenciál, který s sebou přináší AI.

Inovace a výzvy: Integrace umělé inteligence by mohla přinést nové a inovativní výzvy pro hráče. Místo stagnace v designu hádanek by mohla AI přinést nepředvídatelnost a dynamiku, což by poskytlo hráčům motivaci k neustálému vylepšování svých dovedností a strategií.

Rozšíření týmové spolupráce: Namísto toho, aby podkopávala týmovou spolupráci, může umělá inteligence posílit tuto složku hry. Hráči by mohli vytvořit strategie, jak efektivně využívat technologii v kombinaci se svými týmovými dovednostmi, což by mohlo vést k ještě poutavějším a náročnějším zážitkům.

Virtuální vs. Reálný svět: Přestože venkovní puzzlehunt je spojen s fyzickým prostorem, umělá inteligence by mohla otevřít dveře do hybridního světa, kde se virtuální a reálný svět mohou prolínat. To by mohlo vytvořit unikátní a poutavý zážitek, který by zaujal hráče na nových úrovních.

Regulace a fair play: Obavy o nerovnost mezi týmy jsou oprávněné. Avšak pomocí jasných pravidel a regulací týkajících se používání umělé inteligence by se dalo zajistit, aby byl zachován soutěžní charakter hry. Tím by bylo možné zabezpečit, že technologie slouží k posílení zážitku, nikoli k vytvoření nečestné výhody.

Rozšíření komunity: Použití umělé inteligence by mohlo přitáhnout nové hráče, kteří jsou nadšeni moderní technologií. To by mohlo vést k rozšíření komunity a vytvoření prostoru pro různorodé hráčské zážitky.

Celkově vzato, používání umělé inteligence ve venkovních šifrovacích hrách může být příležitostí pro inovace a rozšíření hranic, pokud jsou zavedeny vhodné regulace k zachování fair play a původních cílů těchto her.


Ž
Želvonohý (Petr) #23 11. 11. 2023 22:39

[22] Odůvodnit si svoje využití umí ChatGPT hezky.


Org
Organizátoři (Petr Valášek) #24 13. 11. 2023 10:05

[21] zajímavý nápad, jen k relevanci dat ze statku bych byl trochu skeptičtější :-)


AV
Aplikovaný voy-a-ger (Václav) #25 14. 11. 2023 08:01

[19] „nenechávát to na pravidlu fair play“ nebylo myšleno jako „vynucovat“, nýbrž jako nenechávat to na obecném pravidlu a konkretizovat jej. Pravidlo fair play nechápu jen jako pokyn k dodržování výslovně upravených pravidel, ale jako univerzální zbytkové pravidlo pro postup ve hře. Konkrétně v případě stávajících nástrojů já osobně vnímám jako fér používání sudoku solveru a jako nefér používání nástroje pro strojové hledání možných tajenek. Ale vnímají to tak všichni? Není lepší výslovně říct, co je fér, než se spoléhat na to, že to všichni vnímáme stejně? Co třeba webový anagrammer, který umožňuje dohledání max tří slov? A bude se odpověď lišit u hráče, který už zažil šifry, u nichž měla být tajenka (autorsky) vyscrabblena, a u hráče, který takovou šifru nezažil? A co nějaký sofistikovanější anagrammer?

[23] V první chvíli mě to ani nenapadlo, byť některé argumenty mi přišly hodně odvážné. Mirku, s pravdou ven! :-)


HR
Hledám Radka (Mirek) #26 14. 11. 2023 11:08

[23] [25] Stojí za to se zaměřit i na příspěvek [20], na který jsem reagoval. Aneb nejen svoje využití si umí ChatGPT odůvodnit :)


TCZ
To, co zbylo (Václav) #27 14. 11. 2023 13:44

[26] Máš recht. Jsem zjevně v této oblasti ještě naivní a zranitelný :-)