- Belföld
- csermely ákos
- interjú
- internet
- internet hungary
- média
- mesterséges intelligencia
- kapitalizmus
- konferencia
Csermely Ákos: Nem a mesterséges intelligencia jelenti ránk a legnagyobb veszélyt
További Belföld cikkek
- Megdöbbentő látvány, fehérbe borult Kazincbarcika, de ez nem sima hó
- Még hogy nem tudnak összefogni a magyarok – most mentették meg egy súlyos beteg kisfiú életét
- Itt vannak a hatos lottó eredményei, közel 400 millió forint volt a tét
- Tragikus tűzeset Nyíregyházán, egy ötvenes nő összeégett holttestét találták meg a tűzoltók
- Baleset miatt lezárták az M86-os autóút Szombathely felé vezető oldalát
2000 óta 24. alkalommal, október 3–4-én rendezik meg az Internet Hungary konferenciát, az ország legnagyobb szakmai és üzleti eseményét: 7 nagy témakör (globalizáció/deglobalizáció, lassuló fogyasztói társadalom, a különböző generációk különböző szocializációjának megjelenése az attitűdökben, szilánkosodó kereskedelem, marketing és média, mesterséges intelligencia, nem-/növekedés és nem-/fenntarthatóság, átalakuló kapitalizmus), 5 terem, 219 előadás, majdnem 300 közreműködő. A 2400–2600 fős eseményre a hazai gazdaság, kereskedelem, marketing és médiapiac szereplőit várják. Az esemény mottója: „Minket a fikciók tartanak össze. Lépjünk be a magunk teremtette, mesterséges világba!”
Az Internet Hungary konferenciával összefüggésben Csermely Ákos a lapunknak adott interjúban arról is beszélt:
- hogyan kell értelmezni az októberi konferencia mottóját;
- elmenekülünk-e majd a valóság elől egy mesterséges világba;
- miért ragaszkodunk a mesterséges intelligencia létrehozásához;
- miért ellentmondásos az, amit ma a mesterséges intelligencia fogalmaként értelmezünk;
- mi jelent ránk nagyobb veszélyt a mesterséges intelligenciánál;
- tényleg vallás lesz-e a dataizmusból, és próféta a mesterséges intelligenciából;
- mit jelent az, hogy „a fenntarthatóságot megállíthatod, a kapitalizmust soha”;
- miért fontos megmutatni, hogy megvan a potenciál a Z generációban is.
Világjárvány, háború Európában, új hidegháború a nagyhatalmak között, fenyegető klímaváltozás. Alig néhány éve ezek többségére még disztópikus fikcióként gondoltunk, 2019 óta azonban berúgták a valóság ajtaját. Éppen ilyen gyors és most még elképzelhetetlen vagy inkább hihetetlen változások előtt állunk a digitalizáció, a technológiai fejlődés terén?
Röviden: igen. A klímaváltozás a nyakunkon van, és azt gondolom, hogy a digitalizáción túl a globális kapitalizmus és a fogyasztói társadalom is óriási változás előtt áll. Annyira felgyorsult a világ, hogy ma már nem az a kérdés, mi lesz a távoli jövőben, hanem az, mi lesz egy év, fél év, három hónap vagy akár egy hónap múlva. Akik kimondják, hogy szerintük mi történik majd, azok rövidesen meg is láthatják, igazuk volt-e, vagy sem.
Az idei Internet Hungary konferencia mottója: „Minket a fikciók tartanak össze. Lépjünk be a magunk teremtette, mesterséges világba!” Hogy kell ezt értelmezni?
„Minket a fikciók tartanak össze”, vagyis sokkal többet adunk a külsőségekre, arra, hogy mit mutatunk magunkból, és mások mit gondolnak rólunk. Életkörülményeink megteremtése hetvenezer évvel ezelőtt a kognitív forradalommal kezdődött, amikor kialakult a képzelet és a kommunikáció. Az emberek elkezdtek egymással beszélni, és megalkották az eredettörténeteiket. Onnantól kezdve az ember egy olyan lénnyé vált, amely képes megváltoztatni a környezetét. Szerszámokat készített, törvényeket és úgynevezett „jogi személyeket” alkotott, majd ezek által egy valós és egy mesterséges, egymással versengő világokat hozott létre. Több ugrással a mezőgazdasági forradalomtól eljutott az internetig, most pedig már a virtuális világig, a metaverzumig. Az idézet első gondolata valójában kritika, míg a másik fele azt jelenti, hogy az offline és az online világ elválaszthatatlanok egymástól.
Nekem a Ready Player One című sci-fi jutott eszembe a mottóról. Egy disztópikus jövőben a nyomor valósága elől egy szinte határtalan virtuális világba menekülnek az emberek. Ez a jövőnk, függőség a fikcióktól, és menekülés egy mesterséges világba?
Nem hiszem, hogy mindenki bezárkózik majd a szobájába, és egy mesterséges világba, egy metaverzumba menekül. Én azt tapasztalom – főleg a fiataloknál –, hogy az embernek természetes ösztöne azt mondani: állj, és ne tovább. Azt gondolom, megtanuljuk kezelni és ösztönösen szabályozni a virtuális világot. Benne élünk majd, de arra is rájövünk, hogy az nem minden, és egy virág, a kedvesünk, egy jó bor illata mégiscsak a való világban tarthat bennünket. Remélem.
„Ez már a digitális gyarmatosítás egy formája”
A mesterséges intelligencia az egyik központi témája lesz az Internet Hungary konferenciának. Miért ragaszkodunk ennyire a mesterséges intelligencia létrehozásához?
Mert a vállalatoknak ez az üzleti érdekük, és ha úgy tetszik, belehajszolják a fogyasztói társadalmat. De szerintem a mesterséges intelligencia mint fogalom önmagában ellentmondásos. Az a fajta mesterséges intelligencia, amire elsőre gondolunk a fogalom hallatán, még nem létezik. Úgynevezett deep machine learningek vannak, mint például a ChatGPT is. Befolyásolják és rövid távon megkönnyítik az életünket, amit mi cserébe fokozatosan átadunk nekik. Ezek az algoritmusok azonban nem új keletűek, a globális techcégek is már régóta alkalmazzák őket. Sőt, Magyarországon is évek óta egy ilyen deep learning – mélytanuló, szövegfelismerő – alkalmazással beszélhetünk, ha az egyik telekommunikációs cég ügyfélszolgálatát felhívjuk.
A mesterségesintelligencia-kutatás inkább lehetőség, mint veszély, vagy fordítva?
Kellő önuralommal és nemzetközi megállapodásokkal szabályozni tudjuk a határokat: milyen területen és milyen mértékben vegyük igénybe a mesterséges intelligencia segítségét. De önmagától nem rendezi át a világot, csak azt teszi meg, amit mi megengedünk neki, vagyis amire programozzuk – szabályok mentén, vagy azok nélkül.
Sokak félelme, hogy a mesterséges intelligencia és a robotika fejlődése elsősorban a kétkezi emberi munkát váltja ki először. Most mégis úgy áll a helyzet, hogy az értelmiséget, a kreatív munkát is veszélyezteti. A jövőben algoritmusok szerkeszthetik a híreket, a reklámanyagokat, a marketingterveket, és mesterséges intelligenciával működő robotok készíthetnek interjúkat, vagy akár vezethetnek vállalatokat. Öt év, tíz év, mennyire vagyunk ettől a jövőtől?
Ahogy már utaltam rá, az, amit ma mesterséges intelligenciának nevezünk, nem képes az intuícióra és az empátiára. Nincs öntudata, hiányzik még belőle az emberi intellektus és kreativitás. A mesterséges intelligenciának nevezett deep machine learningek historikus adatokból épülnek fel, és azokból generálnak újabb tartalmakat. Megmondjuk, hogy mit csináljon, és olyan érzetünk van, mintha a válasza emberi lenne, de nem az. Csak az ember képes arra, hogy elolvas öt könyvet, és azokból új felismerésre jut, új összefüggéseket lát meg.
Hogy öt év múlva mi lesz? A globális techcégek nem véletlenül gyűjtik rólunk az adatokat.
Építik az automatikus, programozható, deep machine learning alapján működő rendszereiket, és már évekre előrébb tartanak annál, mint amit most mi tudunk a mesterséges intelligenciáról. De a valódi kérdés az, hogy öt év múlva fel tudunk-e majd lépni ellenük hatékony szabályozásokkal. Most még elég kevesen ismertük fel az ezzel kapcsolatos problémákat.
A Homo Deus című könyve végén Yuval Noah Harari izraeli történész több kérdést is felvetett, az egyik közülük: „Mi lesz a társadalommal, a politikával és a mindennapi élettel, ha a nem tudatos, de rendkívül intelligens algoritmusok majd jobban ismerhetnek bennünket, mint mi saját magunkat?”
Évek óta folyamatosan mondom: vegyük észre, nem a mesterséges intelligencia jelenti ránk a legnagyobb veszélyt, hanem a globális techcégek gyarmatosítása. Odaadtuk nekik az adatainkat, az e-mailjeinket, ismerik a keresési és médiafogyasztási szokásainkat, majd fejlődés címén és a felhasználó érdekeire hivatkozva algoritmusokkal terelgetnek minket. Ez már a digitális gyarmatosítás egy formája.
Egy tavalyi interjúban azt mondta, hogy „eljött az idő, és törvényszerű az új típusú vallások kialakulása”. Azt is kijelentette, hogy az új „vallás” a dataizmus lesz. Mondhatnánk azt is, hogy „adatok mindenek felett”. A fogalmat először Harari használta. Ha a dataizmus az új vallás, akkor a mesterséges intelligencia lesz a prófétája, netán az istene?
Valóban azt mondtam, hogy a dataizmus az új „vallás”, de ez részben provokáció volt. Vita nélkül nincs gondolkodás, vitát pedig provokációval, vitaindítóval jó nyitni. Mindig szükségünk van példaképekre, vezetőkre, és olyan csoportokra, amelyeknek ideáival azonosulni tudunk, de a dataizmust azért neveztem vallásnak, mert ma már mindent adatalapon vizsgálunk. Nem hiszem, hogy ennek egyszer a mesterséges intelligencia lenne a prófétája.
Egyes jövőkutatók, mint Ray Kurzweil, azt állítják, hogy hosszú távon egy technológiai szingularitás felé haladunk, a mesterséges intelligencia meghaladja majd az emberi intelligenciát, és ha ez megtörténik, a ma ismert Homo sapiens számára nem marad hely a világban.
Kurzweil egy óriási koponya. Elméleti síkon beszélt a technológiai szingularitásról, de akkor még nem tudta figyelembe venni a ma ismert változókat okozó torziós erőket, mint például az embercsoportok kollektív érzelmeit. A tömeggyakorlat általi tapasztalásra még csak most teszünk szert, például azzal, hogy a ChatGPT megjelent, és a köz számára is elérhetővé vált.
Tavaly mindenki a metaverzumról beszélt, én ezért egy picit fenntartással kezelem, hogy meddig tart még a hájp a mesterséges intelligencia témája körül, és mikor épül be valójában az életünkbe.
Talán nagyobb nyomatékot kap a közvéleményben, mint a metaverzum, de nem akkorát, mint a nemnövekedés, a fenntarthatóság és a fogyasztói társadalom lassulásának kérdése. Mindezen problémák erősen befolyásolják az embereket abba az irányba, hogy ismét a természet felé forduljanak. De azt gondolom, hogy okos szabályozásokkal idővel a mesterséges intelligencia is megkapja a méltó helyét az életünkben. Milyen csodálatos lesz, ha a hasznosítása úgy manifesztálódik, hogy egy héten elég lesz négy napot, vagy egy nap csak négy órát dolgozni, és például a pontosabb diagnosztizálást segíti majd az egészségügyben. Bár itt egy újabb veszély leselkedhet ránk: az unatkozó ember, az unatkozó csoportok, a „homo bored”. Ez nem egy cinikus megjegyzés, hanem ebből valós probléma lesz.
„A fenntarthatósághoz le kellene állni a növekedéssel”
Pogátsa Zoltán: Le kell választani a politikai döntéshozatalról a nagyvállalatokat
Ideje megbarátkoznunk a nemnövekedés gondolatával a közgazdász szerint.
Az Internet Hungary előadói között van Pogátsa Zoltán közgazdász-szociológus is. Vele nemrégiben készítettünk interjút, többek között a kapitalizmus fenntarthatatlanságáról és nemnövekedésről beszélgettünk. Az októberi konferencia főbb témái között is megtalálhatók. „A fenntarthatóságot megállíthatod, a kapitalizmust soha” – ezt ön írta a nyitóbeszéde „villanásai” közé. Mit ért ezalatt?
A versenypiacot soha nem lehet megállítani, mindig utat tör magának. Ahhoz, hogy a fenntarthatóságot, a párizsi egyezményben maximalizált másfél Celsius-fokos globális felmelegedést tartani tudjuk, elsősorban az üzleti világot kéne meggyőzni: lassítsanak. De mindig megtalálják a kiskapukat, és mindig hátrébb sorolják a fenntarthatóságot.
Pogátsa Zoltán úgy fogalmazott az Indexnek, hogy le kell választani a politikai döntéshozatalról a nagyvállalatokat. Ezt nevezte az első lépésnek a nemnövekedéshez. Egyetért vele?
Igen.
Új kapitalizmus kell, ahogy egy videójában mondta az Internet Hungary Facebook-oldalán, vagy valami más kell a kapitalizmus helyett? Pogátsa Zoltán definíciója szerint a kapitalizmus belső lényege a folyamatos növekedés igénye, amely azonban fenntarthatatlan.
Ahogy Pogátsa Zoltán is megfogalmazta: a fenntarthatósághoz le kellene állni a növekedéssel. Az idei Internet Hungary konferencián a fogyasztás alakulásának miértjét is vizsgálni szeretnénk. A világ nyugati, fejlettebb felén a fiatalok nem hiánygazdaságban szocializálódtak, és már nem annyira akarnak birtokolni. Lassul a fogyasztás, ez részben jó, de a probléma az, hogy a világ fejletlenebb részén továbbra is nagy a birtoklási vágy. Félek, hogy „a nemnövekedés kapitalizmusa” csak vágyálom lesz – és akkor hogy nézünk majd az unokáink szemébe?
„A mesterséges intelligencia a társunk lehet”
Egy másik videójában kijelentette, hogy a Z generáció nem akar annyit vásárolni. Biztos, hogy ez így van? Nem egyszer láttunk már hosszú sorokat csak azért, mert például egy bizonyos mobiltelefon új modellje megjelent, és rohantak megvenni.
A felmérések azt mutatják, hogy tőlünk nyugatra már nem akkora őrület a fiatalok számára egy-egy márka, mint itthon. A fiataloknak van már egy olyan tömege, amely megérti, hogy a klímaváltozás olyan anomáliákkal járhat, amelyekről most még fogalmunk sincs. Csak az biztos, hogy ötven év múlva, vagy akár húsz év múlva egy teljesem más világ lesz.
„Ki fog bennünket eltartani? A Z generáció vagy a mesterséges intelligencia?” – tette fel ezeket a kérdéseket szintén a „villanásai” között. Miért?
Ha jól használnánk fel a mesterséges intelligenciát, és nem a további növekedésre, nem a további rombolásra, akkor a mindennapi kényelmi eszközünkké válhatna. Sok olyan területen is alkalmazhatóvá válna, ahol egyébként nincs megfelelő munkaerő.
Nem tudom, hogy a fiatalok hogyan tudnak majd eltartani bennünket. Annyira vigyázunk a gyermekeinkre, annyira kíméljük őket, hogy például nem élik meg a kitartás, az alkotás gyötrelmét, a kínlódást és a küzdeni akarást a sikerért.
Milyen minősége lesz majd az ő kreativitásuknak? De közben öregszik a társadalom, és lesznek olyan munkakörök, amelyek betöltetlenek maradnak. A kérdésem arra vonatkozott, hogy be tud-e szállni azokra a területekre a mesterséges intelligencia, vagyis egy algoritmus vagy egy robot, ahol nem tudjuk a Z generációsokat aktivizálni. Ettől még az ő problémáik persze nem oldódnak meg. Az Internet Hungary konferencián olyan fiatalokat mutatunk be, akik mind valami fantasztikusat alkottak az életükben. Meg szeretnénk mutatni, hogy a Z generációban is ott van az erő, a potenciál, mert fontos, mit adnak majd ők tovább az alfa és a béta generációknak.
„Az idei kreatívot mesterséges intelligencia segítségével készítettük” – olvasható az Internet Hungary oldalán. Nem tart attól, hogy a közeljövőben egy mesterséges intelligencia veheti át a helyét a szervezésben?
Azért nem, amit az előbb mondtam: a mesterséges intelligencia még nem rendelkezik intuícióval, sem empátiával, és nem tudom megmondani, hogy erre mikor lesz képes. A géprombolás a félelemből táplálkozott, de a lovász is megtanult autót vezetni. Éppen ezért kell segíteni az emberek tájékozódását, hogy megértsék: a mesterséges intelligencia a társunk lehet, de csak akkor, ha például a hatalmat nem adjuk át kényelemből. Ezen a téren bőven van még tájékoztatási kötelezettségünk.
Évtizedek óta nagyszabású konferenciákat szervez, újságot ad ki, interjúkat készít. Egy korábbi interjúban úgy fogalmazott, hogy igyekszik egy-két évre előre fürkészni a jövőt. Lépést lehet, illetve tud még tartani egy ilyen felgyorsult világban?
Két konferencia között történelmet, fizikát, közgazdaságtant és egyéb szakkönyveket, szaklapokat, na meg persze szépirodalmat olvasok. Tanulok, és rengeteg szakemberrel beszélgetek. Mindezek alapján állítok fel egy jövőképet. Számomra nem az az igazi kérdés, hogy lépést tudok-e tartani, mert ez a dolgom, ahogy az orvosnak gyógyítani, és a kőművesnek falat kell tudnia húzni. Az én problémám az, hogy még mindig többet foglalkozunk a mázzal, a külsőségekkel, mint azzal, mi lesz, illetve mi legyen egy-két év múlva. Ugyanakkor nem az az igazi mesterség, hogy meg tudom-e mondani, mi lesz egy-két év múlva, hanem az, hogy megértessem, bebizonyítsam: egy érvényes jövőképről van szó, amit be kellene fogadnunk, átgondolunk, és aztán cselekednünk kéne.
(Borítókép: Csermely Ákos. Fotó: Papajcsik Péter / Index)
Ehhez a cikkhez ajánljuk
- Belföld
Négyéves kislányt keres a rendőrség
A gyermeket ismeretlen helyre vitte az édesanyja.
december 23., 13:26
- Belföld
Csaknem kétnapos technikai átállás jön a Vodafone-nál, 40 órára leáll a rendszer
Az ügyfélkiszolgálás mind a mobilos, mind a vezetékes ügyfelek részére szünetel.
december 23., 13:24
- Mindeközben
Nem csak A mi kis falunk forgatókönyvét kellett átírni, Szabó Győzőnek is meggyűlt a baja a pajkaszegi tó kiszáradásával
tegnap, 21:21
- Belföld
Döntöttek a kormánypárti politikusok az országot kettéosztó kérdésben
Sokan meglepő válaszokkal álltak elő.
december 23., 12:39
- Belföld
Megdöbbentő látvány, fehérbe borult Kazincbarcika, de ez nem sima hó
Különleges természeti jelenség szemtanúi lehettek a helyi lakosok.
tegnap, 20:58
- Belföld
Összehasonlítottuk a pozsonyi és zágrábi karácsonyi vásárok árait a budapestiekével
A horvát és a szlovák karácsonyi vásárok kínálata bár szűkebb, mint a budapestieké, de az ételek akár 2-3 ezer forinttal is olcsóbbak, mint itthon.
december 23., 13:48
- Címlapon
Meghalt Jimmy Carter volt amerikai elnök
Az Egyesült Államok 39. elnöke 100 éves volt.
tegnap, 22:27
- Belföld
Margit hídi hajóbaleset: egy ukrán állampolgárt gyanúsítottként hallgattak ki a rendőrök
A hajózási képesítését elvették.
december 23., 12:40
- Belföld
Sérült gyermekeket látnak el, most szükségük van a támogatásra
Speciális eszközöket szereznének be, hogy el tudják látni a feladataikat.
december 23., 11:58
- Mindeközben
Kioldatott 15 évnyi töltőanyagot az arcából egy influenszer, aztán magára sem ismert a tükörben
tegnap, 15:47
- Belföld
Ismét meghallgatták a nőt, aki megtalálta Till Tamás biciklijét
A nő az eltűnés után hónapokkal, míg fia jóval korábban bukkant a kerékpárra.
december 23., 07:03
- Belföld
Kommentháború tört ki Gulyás Gergely és Magyar Péter között a miniszter esküvője miatt
A miniszter hozzászólt az ellenzéki politikus bejegyzéséhez.
december 23., 16:23
- Mindeközben
Kora és külseje miatt támadják Jennifer Love Hewitt-tet, nem hagyta szó nélkül a dolgot
tegnap, 14:25
- Belföld
Az esztergomi segédpüspök szerint a pártok farvizén evezgetni szellemi gyengeségről, igénytelenségről tanúskodik
Martos Levente Balázs az egyházat megrázó botrányok sorozatáról is beszélt.
december 23., 15:32
- Belföld
Gulyás Gergely megházasodott, elvette a Hír TV műsorvezetőjét
A miniszter köszöni a jókívánságokat, de pert indít a „Soros-sajtóvilág terméke” ellen.
december 23., 07:18
- Belföld
Összesen 12 képviselő nem szólalt meg a parlament 2024-es szezonjában
Orbán Viktor előkelő helyen a listán.
december 23., 11:35
- Címlapon
Brit professzor: Magyarországgal is tervei vannak Putyinnak, holtan akarja látni Zelenszkijt
A háborús szakértő szerint ránk szabadulhat a pokol, ha nem lesznek észnél a politikusok.
tegnap, 19:04
- Címlapon
Sosem látott jelenséget észleltek a dél-koreai reptéren a katasztrófa előtt
Szokatlanul sok madár lepte el a muani reptér légterét, figyelmeztetést is kiadtak a baleset előtt.
tegnap, 13:45
- Mindeközben
Görög Zita kíméletlenül őszinte véleményt mondott a dubaji csokiról, minden az arcára van írva
tegnap, 11:03
- Belföld
Független jelölt győzött Sátoraljaújhelyen az időközi választáson
A választás eredménye némileg meglepő, ugyanis júniusban még a Fidesz győzött ugyanitt.
december 23., 09:13
- Belföld
Demszky Gábor: Olyan, mintha még a Kádár-rendszerben élnénk
A volt főpolgármester Karácsony Gergelyről, Magyar Péterről és Vitézy Dávidról is beszélt az Indexnek.
december 23., 07:41
- Belföld
Gázolás történt hétfő hajnalban, több helyen nem járnak a vonatok
Váltóhiba, felsővezeték-kigyulladás és baleset miatt is akadozik a közlekedés a vasutakon.
december 23., 07:38
- Címlapon
Megszólalt a szakértő – ezért halhatott meg 179 ember a dél-koreai balesetben
A RAF korábbi pilótája is elmondta véleményét a tragédiáról.
tegnap, 21:26
- Belföld
Viharos szélre, hófúvásra és nagyon sok hóra figyelmeztetett a Magyar Közút
Kérik, hogy csak az induljon útnak, akinek halaszthatatlan dolga van.
december 23., 09:08
- Belföld
Tombol az influenzajárvány, több kórházban is látogatási tilalmat vezettek be
Nagyon nehéz különbséget tenni az influenza és a Covid tünetei között.
december 23., 09:36
- Címlapon
Jönnek a kínaiak, és hozzák az álomfizetéseket: magyarok tömegei kezdtek kínaiul tanulni
A kecskeméti autógyári fizetést is lepipálja majd a szegedi.
tegnap, 17:44
- Címlapon
Kimondták az oroszok – az ukrajnai válság nem ér véget 2025-ben, évtizedekig eltarthat
tegnap, 06:36
- Címlapon
Nem minden menyasszonynak mondták el, mi vár rá a nászéjszakán
Tárgyak és emlékek, velünk élő látványosságok.
tegnap, 18:57
- Mindeközben
Kovács Patrícia az örökbefogadás mellett döntött 15 évvel fiatalabb párjával
tegnap, 08:00
- Mindeközben
Ez a kutya most az internet sztárja, a legtöbben kölcsönkérnénk karácsonyra
december 28., 20:48
- Belföld
Hűtlen kezeléssel gyanúsítják a polgármesternek milliókért tanácsokat osztó budafoki fideszes képviselőt
Nyomozás indult Krieger Krisztinával szemben.
december 23., 15:34
- Belföld
Sok helyen fehérbe öltözött a táj, és lesz, ahol most húz csak bele a havazás
december 23., 09:19
- Belföld
Nagy veszélyben lehet két magyar túrázó a szlovén Kamniki-Alpokban
A rossz időjárási viszonyok miatt nem tudják lehozni őket a hegyről.
december 23., 09:06
- Mindeközben
Egészen fura ajándékkal lepte meg Vilmos herceg Katalin hercegnét, aki rendre fel-felemlegeti azt
december 28., 18:44