以下の内容はhttps://cm3.hateblo.jp/entry/2026/01/28/162531より取得しました。


misuseに対抗する

こういうツイートを昨日したけれど、このChatGPTの出力の中に含まれている学術会議の論点整理がかなり不誠実なもの(不適切な引用なども含まれている)でどうしちゃったんだろうなと思った。「再定義」「拡張」と強調されていて、意図的に語の濫用をしているあたり、関係者の能力を疑うよりも、なんらかの圧力があったのかしら、と思ってしまう内容だったからだ。また、全然関連する論点ながら、人文系ではあまり論点に挙げられないデュアルユースについても言及していたので、気になったのだけど引用先とか見に行っても全然具体がなかった。研究インテグリティの中でデュアルユースを含む misuse をどう扱うかというのはちょっと気になっていたが、残念だ。前述の「どうしちゃったんだろう」含め、何かデュアルユースについても圧力の中で言及だけしたのかしらと思った。しかし当方、「残念」で放置できない事情があり、先ほど締め切られた人工知能学会に哲学者とともに「デジタル人文学が misuse に脆弱なために(特に世代間)倫理についての検討が必要なのではないか」という論文を投稿している。そこで、こちらの方面から少し考えてみる。

以前翻訳したAHA専門職行動基準書 (2019年改定版)*1には以下の一節が出てくる:

歴史家は、場合によっては特定の資料の使用に関する制限的な条件に同意することがあります。ある種の研究、ある形式の雇用や、ある種の技術について(たとえば、オーラルヒストリーに関するインタビューの実施の際)は、その結果として得られる知識を用いて歴史家が行うべきことや行ってはならないことについての約束を伴うことがあります。歴史家は、そうした約束のすべてを守るべきです。歴史家は、自らが専門家として接する依頼主、学生、雇用主やその他の人々について、その秘密を尊重すべきです。しかしながら、歴史学の専門的観点からみると、歴史的記録は、オープンアクセス化され、一般の場で議論されることが好ましく、歴史家はこの実現についてもまた可能な限り努めるべきです。歴史家は、自らの調査研究が開始される前に、秘密保持義務について定めて、研究の内容に影響する可能性のある条件や規則について広く周知すべきです。

特に機微情報の misuse に関わる内容である。DHに関してはオープンデータの運動とも関わってデータをオープンにしようという圧力があり(その圧力が存在すること自体には賛成だよ)、それがデジタルアーカイブの肖像権ガイドライン と関わった misuse つまり、著作権と肖像権を限定的な形でクリアしていればオープンにされてしまう、他の権利の観点が軽視されてしまう問題としては認識されている。オープンにするか問題としては部落に関する地名問題も関連する。

史資料の保存整理と公開活用という原則を大前提とし、絵図をふくめて、差別に関わる史資料を、隠蔽、封印、廃棄、あるいはデジタル技術などによる改竄をしないことを求めます。

ただし、閲覧者の目的を的確に把握し、差別の助長や人権侵害につながる可能性を丁寧に説明するなど、利用にあたっての適切な助言をすることは必要です。悪意にもとづくと判断されるときなど、場合によっては断ることもありうるという認識も、あらかじめ共有しておきましょう。

全国部落史研究会 - 前近代における差別呼称が確認できる絵図(古地図)のデジタル公開についての提言

なので、オープン化と misuse 対策は両立するというのは具体議論レベルで着実に確認が積み上げられてきたことであり、いまさら対立構造として取り上げること自体が不適切と言っても良いと思っている。

「悪意にもとづくと判断」については「被差別部落の地名公開」許しがたい差別行為の実行者から直接攻撃 - RKB毎日放送 のように自明なものもあるが、難しいこともあるだろう。というか、「悪意」というのはなかなかこういう制度の中に組み込むことは難しく、デュアルユースの議論などでも帰結主義に基づく議論が多いと思っている。そこら辺はデュアルユース研究の何が問題なのかとかが綺麗に整理していて、「加重価値基準」のようにリスクを確率と被害の甚大さの重み和で捉えるというのは筋がいいと思っている。一方、例えば、多くの事象について真の「確率」というのは知り得ず、それは量的な形ではなかなか扱われず結局、想定される被害の甚大さと絡み合って、シナリオベースで「そのシナリオは対処すべきであるか、どの程度のどういう形の予防がなされていれば適切であるか」というのが実務上現実的な整理かと思う。(プラトンの「知識とは正当化された真なる信念である」から連綿と知識について「正当化」や「真」についての研究から構成されてきたのに対し、Timothy Williamsonが知識こそがプリミティブな概念でありそこから、正当化のありようなどが生じるとしたのに似ている。…が、それでも、前述の整理に意味があると思っているのは私は「確率」「被害」がはじめか「それが問題か」がはじめかではなく、双方相互に行き来する必要があると確信しているからである。ここではその双方が理論と実践の場面で偏るということを指摘しているにすぎない。)なので、研究者がよくあるシナリオとそこで必要とされる対策については対応し、そして、シナリオやそこで行うべき対処の知識(shared practices for misuse prevention とでも名付けておこう)の集積について常に協力的である必要がある、というところまでが実践的に言えることかと思っている。それが DMP の段階で組み込めるとよい、というところかな。


ちょっと話はぶっ飛ぶけれど、最近、万人に「市民」を擬制して取り扱うのが ableism として問題なんじゃないか、大半の人間が「酔っ払い」だとして社会を組み上げることが必要なのじゃないかという考えに回帰してきている。直接のきっかけは Disco Elysium - The Final Cut をプレイしたことだけれど、もともと害のある(本人の自覚では)善人の社会への参与を制限しうるか問題について似たようなことを考えていたので「回帰」と表現している。同様に、研究者が、研究インテグリティを発揮することを期待するのも、理想の研究者像の擬制であり、それは「建前」というラベル付きで掲げるべきものであって、地の文で発言するのはよくないのではないかと思っている。つまり、先ほどの提言は「研究の途中で特定のAIとたまに10分くらい会話することで研究の将来の価値が上がる」くらいの実装がなされるべきであり、こういうことに多くの研究者が意識的でなければいけないという意識の高い方向で考えるべきではないと思っている。そもそも、misuse は misuse するやつが悪いんであって、その責任を過剰に研究者に押し付けるべきではないし、政治をハックして社会をぶち壊す奴らが悪いのであって、道理のわからぬ凡俗が非難されるべきではないのである。


2026/01/29 追記:冒頭に「研究インテグリティ」という概念の misuse の話題を出していて reflexive だということに気づいたが、まあ、想定していたのは技術やデータの misuse であって、概念や語の misuse はちょっと次元が違うので、難しいかな。でも何が misuse なのかが難しいというところ含めてその相似は示唆に富むね、日本では misuse が正式になっちゃった、そうなると、言語学における語用の反規範主義で考えると、それはもはや use なのですよ(とはいえそこに語の定義の人工性や政治が絡むと、そうとも言い切れないとも主張可能)あるデータの意外な使われ方に楽観的に期待をするのがオープンデータのあり方なので、misuse かどうかは、その使用が生じた時にならないとわからない部分が大きい、とも言えるし、使用が生じた時に概念工学的だったり規範主義的に use/misuse を区別することができたとして、その区別もやはり時代の審級に晒されるわけで、本当に論理というのは無力なのだなぁと… そんな中で、<社会>の破壊に加担している「道理のわからぬ凡俗」をヨシヨシしようとしているのは、そうするしか、社会は改善できないから、であり、圧倒的な社会構想能力でそれをするしかないだろうというマッチョイズムであり、それが長いものに巻かれていると誤解されるのは悲しいものである。

*1:このドメインが私のgithub になっていて公式性を欠くこともメタに問題。つまり、DHは短期的な成果に引きずられるあまり、歴史学が大事にしてきた資料の長期保全に対しての関心が薄すぎ、こういうことが生じてしまう。インターネットアーカイブにバックアップ をとっているけれど、アメリカがあんな状況の昨今、もっとこういうのを分散して持っておかないと危ないと思う




以上の内容はhttps://cm3.hateblo.jp/entry/2026/01/28/162531より取得しました。
このページはhttp://font.textar.tv/のウェブフォントを使用してます

不具合報告/要望等はこちらへお願いします。
モバイルやる夫Viewer Ver0.14