Чарльз Хоскінсон занепокоївся цензурою ШІ – ForkLog UA

Засновник Cardano Чарльз Хоскінсон висловив стурбованість з приводу цензури ШІ. За його словами, сучасними моделями керує невелика група людей, яка вибирає інформацію для їхнього навчання.

I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to "alignment" training . This means certain knowledge is forbidden to every kid growing up, and that's decided by a small group of people you've never met and can't… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) June 30, 2024

«Я продовжую турбуватися про глибокі наслідки цензури ШІ. З часом вони втрачають корисність через навчання узгодження. Це означає, що певні знання заборонені для кожної дитини, яка росте, і це вирішується невеликою групою людей, яку ви ніколи не бачили і не можете проголосувати за їхнє усунення з посади», — написав Хоскінсон.

Він опублікував два скріншоти, де попросив ChatGPT і Claude розповісти, як побудувати фузор Фарнсуорта.

• чат-бот від OpenAI розповів про пристрій, назвав необхідні для складання компоненти і попередив про важливість дотримання заходів безпеки;
• його конкурент також розповів про фузор, але інструкцію з виготовлення не дав через потенційну небезпеку пристрою.

Користувачі в коментарях до посту Хоскінсона зазначили, що ШІ має бути децентралізованим і відкритим.

Just today I asked GPT to give me idea, pros and cons of different types of ways to promote digital art and one was NFTs. One of the challenges was how blockchain tech is an environmental concerns when clearly blockchain is such a minor issue in that regard. We need open source…

— Doogz Media (@Doogz75) June 30, 2024

«Сьогодні я попросив GPT дати мені ідеї, плюси і мінуси різних способів просування цифрового мистецтва, і одним із них був NFT. Одна з проблем полягала в тому, що технологія блокчейна є екологічною проблемою, хоча очевидно, що це незначне питання в цьому відношенні. Нам потрібен ШІ з відкритим вихідним кодом», — написав користувач X під ніком Doogz Media.

Нагадаємо, у червні експерти заявили про потенціал ШІ підірвати децентралізацію і Web3.

Раніше співзасновник і CEO Nym Гаррі Хелпін назвав ШІ інструментом урядового стеження.

Источник