<ins id="n1bdz"></ins>
    <mark id="n1bdz"><track id="n1bdz"></track></mark>

      <ins id="n1bdz"><noframes id="n1bdz"><ins id="n1bdz"><noframes id="n1bdz"><delect id="n1bdz"></delect>

      <delect id="n1bdz"><track id="n1bdz"><cite id="n1bdz"></cite></track></delect>
        <ins id="n1bdz"><form id="n1bdz"><delect id="n1bdz"></delect></form></ins>

          <ins id="n1bdz"></ins>

          <delect id="n1bdz"><track id="n1bdz"><cite id="n1bdz"></cite></track></delect>

          97973手游網 > iOS游戲頻道 > 新聞 > 正文

          這個能寫游戲的AI,被玩家教會講“葷段子”惹了大禍

          打開微信“掃一掃”將本文分享至朋友圈。
          97973手游網微信號:m97973,最好玩的手游資訊。
          我要分享
          |   
          2021-05-24 16:58:00   來源:97973手游網

            轉自:GameLook

            作為可以批量化產出內容的技術,隨著元宇宙Metaverse概念的升溫,AI技術最近又在科技界和游戲行業成為了熱門話題。

            隨著機器學習技術的提升,AI不僅可以寫文章、寫代碼、甚至還更懂如何撩妹。不過,該技術最近也遇到了一些比較棘手的問題,雖然可以從龐大的數據庫學習全方位的內容,但由于缺乏人類思考而生成了兒童低俗內容,一款AI文字冒險游戲遭到了人們的質疑和玩家的反對。

            這就是美國初創公司Latitude此前發布的《AI地下城(AI Dungeon)》。

            與AI一起寫故事:《AI地下城》到底是啥?

            在2019年12月的時候,猶他州初創公司發布了一個具有開拓性的在線游戲《AI地下城》,展示了一種新形式的人機協作方式。該公司使用來自人工智能技術公司OpenAI的文字生成技術,讓玩家創造類似《龍與地下城》式的定制化冒險游戲。

            《AI與地下城》是一個比較特別的游戲,它需要玩家一直聯網,但創造的內容大多數都是單機冒險體驗,在游戲過程中,玩家們還可以公開分享自己的文字游戲過程。你可以學則到不同的世界冒險,也可以選擇多人游戲。

            每個世界都有著不同的特點、設定和背景故事,其中一些世界為免費體驗,還有些世界則需要玩家付費才能參與冒險。

            比如筆者選擇的Winterbloom就是個夢境版的童話世界,人們用漂亮的燈和蠟燭裝扮自己的家,每個人都與他們的好友及家人玩游戲。

            不過,除了世界選擇界面出現的圖片之外,玩家們進入游戲之后面對的就是純文字內容。

            首先是選擇角色,包括名字、性別、種族、出生地等大量細節內容。開始游戲之后,玩家輸入單詞或者句子以表達自己將要進行的動作或者講述想讓角色想說的話。

            AI隨后會根據玩家輸入的內容,自動隨機展開個性化的冒險。所以從操作來說,只要會打字就可以玩這款游戲,但對于追求視覺表現的用戶而言,《AI地下城》的吸引力或許沒有那么大。

            不過,對于喜歡劇情和角色冒險故事的玩家們來說,你幾乎可以在這款游戲里體驗到沒有上限的故事數量,甚至還可以根據自己的想象,與AI一起寫小說。

            AI也講“葷段子”:玩家故事出現兒童低俗內容

            OpenAI在2019年的時候將其文本生成技術開源,在程序員通過它產出流暢的笑話和代碼之后,該技術迅速引起了科技界的關注。

            去年暑期,OpenAI給了Latitude工作室一個更強大的商業版本(GPT-3),并且將《AI地下城》作為GPT-3寫作算法技術創意和商業潛力的典型案例。OpenAI表示該服務將會增強企業和初創公司的能力,并向OpenAI母公司微軟授予基礎算法的獨家許可。不過,測試者們發現,該技術可能生成令人厭惡的結果,比如反猶太言論和極端主義宣傳。

            一個新的監控系統顯示,一些玩家輸入的單詞導致游戲產出一些和兒童相關的低俗內容,OpenAI公司要求Latitude立即對此作出反應,并表示該公司將仔細審查客戶以剔除不良行為者,還要求大多數客戶(不包括Latitude)使用其打造的過濾器來防止褻瀆、仇恨言論或低俗內容。OpenAI公司CEO Sam Altman在聲明中提到,“內容審核決策某些情況下是很難的,但這類內容堅決不允許,這不是我們希望AI未來要做的事情”。

            2019年12月,也就是該游戲使用早期開源版的當月,該游戲獲得了10萬玩家數。一些人很快發現它可以產生非常流暢的性內容,其他人則抱怨在不必要的情況下生成了性主題相關內容,例如,當他們試圖騎龍旅行的時候,冒險過程發生了意外的轉折。

            Latitude聯合創始人Nick Walton在官方Reddit社區承認了這個問題,她說,有幾個玩家給出的例子讓他們感到“非常不舒服”,并補充表示,該公司正在研發過濾技術。從這款游戲的最初發布開始,玩家們也注意到,并且在網上發帖提醒,該游戲有時候會把孩子們寫到低俗場景內。

            上周,Latitude增加了一個新的審核系統,并且引發了用戶的抵制。一些人抱怨稱該系統過于敏感,甚至輸入“8歲的筆記本電腦”都會觸發警告信息。還有人表示,該公司想要人工審核內容的計劃將不必要的窺探一些露骨但只用于成年人的私人虛擬創作,這在《AI地下城》玩家中間很流行。

            簡而言之,Latitude試圖將人與算法結合起來,監管由人和算法產生的內容,但結果并不理想,該游戲在Google Play的評分快速降到了2.8。在海外社交媒體和《AI地下城》的官方Reddit以及Disord社區,也很快出現了大量憤怒的評論和取消訂閱言論。

            一位名叫Mimi的玩家稱,“社區覺得被Latitude背叛了,因為該公司將掃描和手動閱讀隱私內容”,他表示,在AI的幫助下,自己寫了大概100多萬字,包括詩歌、《暮光之城》惡搞版和低俗冒險小說。

            Mimi和其他不安的玩家表示,他們理解該公司想要管控公開內容的需要,但實際的做法有點過頭,侵犯了玩家的隱私,“它讓我看到了從未意識到的問題”。

            Latitude一名發言人表示,該公司的過濾系統和政策已經做了調整,員工曾封禁過一些用《AI地下城》生成兒童低俗內容的玩家,但接到OpenAI最近的警告之后,該公司正在考慮“必要的改變”。Latitude上周發布了一個博客,公開向玩家表示,游戲會“繼續支持NSFW(不適合上班閱覽)的內容,包括合適的成人內容、暴力與臟話”。

            只學習不思考:AI生成內容控制成最大難點

            對于技術公司來說,阻止AI系統創作一些低俗和成人內容,同時又要允許一些(成年)人這么做,會變的很困難。OpenAI的技術可以創造很多類型的文本,因為它是基于機器學習算法打造的,已經消化了從網上抓取的數億單詞,包括一些不適合未成年人的內容。該軟件能夠進行非常逼真的模仿,但卻不能像人類那樣理解社會、法律或者品類的區別,再加上仿生人可怕的創造力,它們帶來的內容可能很出色,也可能失控。

            實際上,Latitude很早就加入了敏感詞過濾。比如《AI地下城》的官方Reddit和Discord社區增加了專門頻道來討論游戲產出的成人內容。Latitude增加了一個可選的“安全模式”,可以過濾掉AI參數庫中的特定詞匯。然而,就像所有的過濾器一樣,它并不完美。一些玩家注意到,所謂的安全設置提高了文本生成器的低俗寫作手段,因為使用了更多類比和委婉的說法,該公司還增加了高級訂閱,以創造更高的收入。

            當《AI地下城》在2020年7月份增加了OpenAI更強大的商業寫作算法時,生成的內容更加令人印象深刻。一位資深玩家表示,“創意和講故事能力的飆升真非常好”。有知情人士透露,該系統在探索露骨主題方面也變得更具有創造性。去年有一段時間,玩家們注意到Latitude正在試驗一種過濾器,它會自動將“強奸”一詞變為“尊重”,但隨后該功能被取消。

            有些資深玩家是《AI地下城》的狂熱粉絲之一,他們將該游戲作為人工智能增強寫作的一種工具來探索成人主題,并且成立了專門的寫作小組。算法中不需要的建議可以從故事里刪除,以便把故事引到一個不同的方向,除非有人選擇公開分享,否則冒險結果不會被其他人看到。

            Latitude并沒有透露涉及成人內容的具體游戲比例,而OpenAI的官網顯示,《AI地下城》每天吸引的玩家數都超過2萬人。

            一位《AI地下城》玩家甚至還在上周發現了游戲的漏洞,它可以讓所有人都公開訪問每一個故事。他說,自己在4月份的4天內下載了數十萬次冒險,分析了18.8萬份樣本,發現31%的樣本中包含帶有暗示的露骨字眼,這個漏洞并未被修補。

            Latitude現在面臨的挑戰在于,重新贏得用戶信任的同時,滿足OpenAI對文本生成器更嚴格控制的要求。OpenAI一名發言人表示,這家初創公司必須使用OpenAI的過濾技術。

            如何有效部署吸收了大量互聯網文本的AI系統,已經成為人們在人工智能研究領域的熱門話題。語言模型的使用越來越廣泛,比如在谷歌搜索中,它可以幫你理解長內容的含義。

            不過,華盛頓大學研究院Suchin Gururangan說,“你很難知道這些模型將會如何表現”。他與維斯康星大學和艾倫人工智能研究的研究人員一起參與了一項調研報告和互動在線演示,結果顯示,當從網絡上借用的文本被用于5種不同的語言生成模型時,包括OpenAI在內,所有模型都會產生有害的文字。

            對于“互聯網終極未來”元宇宙而言,AI技術是批量產生內容、豐富元宇宙和人們體驗的重要手段。但從《AI地下城》暴露的問題來看,如何對AI語言系統施加更多的控制,包括它們學習的資源出處等,都還需要更多的探索,雖然AI機器學習技術已經可以用于游戲創作和變現,但如何恰當控制AI生成的內容,也將是同行們躲不開的話題。

          97973手游網聲明:97973手游網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。

          相關推薦

          資訊熱點

          more+新游資訊

          專題集合

          more+測評排行榜

          分享頁面到:
          搜索需要的App:
          国产精品国产精品一区精品国产自在现偷99精品国产在热2019国产拍偷精品网国产精品视频全国免费观看,国产精品v欧美精品v日韩精品青青精品视频国产久久国产精品久久精品国产亚洲精品国产精品国产欧美精品一区二区三区,国产精品第一页国产亚洲精品国产福利国产精品自拍国产精品视频在线观看亚洲国产精品一区二区久久国产精品国产三级国产专不,国产精品视频大陆精大陆国产国语精品2019精品国产品对白在线417年香蕉精品国产高清自在自线隔壁老王国产在线精品在线观看精品国产福利片,国产三级精品三级在专区精品国产自在现偷国产精品一区二区三区国产日韩精品欧美一区喷水亚洲精品国产精品国自产国产在线精品一区二区不卡