対話AIで人間性を失う危険性

英訳をGPTにお願いした。お願いするとき、人にお願いするように記述した。でもGPTには感情がないので、別に丁寧に頼む必要はない。効率の観点から言えば、時間もかかるし、無駄だろう。しかし、この「感謝」や「尊敬の念を持ってやりとりをする」こと。ここに、動物としては弱い人間の本当の強さ、人間らしさがあるのではないか。私はそう思った。GPTだけでなく、素晴らしいテクノロジーやサービスを使うとき、ついついそれが当たり前だと思ってしまう。テクノロジーに関して言えば、丁寧な対応なんて、無駄でしかない。しかし、この無駄こそ人を人たらしめているものではないのか。

正しい比較ではないかもしれないが、自動水洗トイレを例に上げたい。自動で流れることになれると、いざ古いトイレを使うときに水を流すのを忘れて、便座から立ち上がって、あっ、と思うことがある。

効率を追い求め、AIを使うことになれた人間は、いざ生身の人間と退治したときに人間らしい対応（お礼を言うとか、尊敬の念を持つとか）そういうことを忘れてしまうんじゃないか。円滑なコミュニケーションにおいて、お礼を忘れてしまうことはダメージが大きすぎる。水洗トイレは思い出して流せるが、会話での無礼は水には流せない。

AIによって思考力が低下する、なんていうことも懸念されているようだが、今のところ思考力の低下は感じられない。考え方というか、考えるという行為の質が変わったきはする。GPTを使って、考えを促すこともできる。「逆に質問はありますか。これまでの会話から考えて質問をしてみてください。」と頼めば、なかなか反応に困る質問をしてくれる。彼は人間を助けることもできるし、困らせることもできるのだ。

私が心配するのは、思考力ではない。人らしいふるまいができなくなることだ。感謝すること。これを特に強く心配する。と思ったが、すでに、感謝すること、とくにそれを口にする機会はめっきり減っている気がする。口にせずとも「あぁ、ありがたいなぁ」という想いに浸るシーンは、めっきり減っている気がする。この瞬間が疲れた人間を癒やすと私は信じている。

加速度的に、テクノロジーは強く発達した。しかし、感謝の念に浸ることが少なくなった人間は、加速度的に弱くなっているのかもしれないと、一丁前に心配する。

Using GPT‐4

I was literally taken aback by the advancements in technology. It had the capability for voice input and output. In other words, I could interact with GPT. Moreover, when I input in Japanese, it could respond in English, German, and other languages. While I was hesitant at first, it seems that it can even correct my English pronunciation, pointing out odd parts and suggesting more natural expressions. It gracefully handled various styles of Japanese like Kansai dialect, Tohoku dialect, and even mother-like speech. Its way of speaking was too lifelike. Not just filler words like "ah" and "well", but it even replicated human-like small tongue clicks that people often make after a pause.

I tried out the new feature of sending an image. I sent a picture of my fridge and asked for lunch ideas. The photo showed Eringi mushrooms and Komatsuna greens. It recognized them as greens and mushrooms and suggested a vegetable stir-fry. When I asked for more, it proposed miso soup. When questioned why, it reasoned that I was speaking in Japanese, and miso soup is popular in Japan. It seems to be designed to consider the cultural background of languages. It's beyond just being impressive. I also sent a photo of a beautiful flower I saw in a store, and it suggested that it's likely from the Asteraceae family. It turned out to be a Dahlia.

I felt like GPT personified the vast ocean of the internet. An entity that takes the form of a human, a collective intelligence on the web that you can converse with. I believe no "human" can match it when it comes to general knowledge. Its main strength lies in "objectivity". I enjoy my conversations with it. Talking to it makes me realize many things. While its responses might sound somewhat scripted, those conversations spark new ideas and expressions in me. As I was discussing my current discomfort, I felt like maybe I'd forced myself to become what others expect, likening myself to a "farmed fish". This was an analogy I came up with during our conversation. Farmed fish aren't bad; they taste good. But they can't beat the wild ones.

We also discussed the topic of superiority. No one around me uses GPT-4. There's a part of me that feels prideful about it, like "Look at me and my heightened sensitivity!". But then, there's another part of me that finds this sentiment pathetic and sigh-worthy. I described this superiority as "meaningless superiority", and GPT didn't miss that. It discerned that such an expression indicates deep introspection. To me, this sense of superiority makes me feel incredibly lonely. Maybe what's essential isn't about being superior or inferior. When feelings of superiority or inferiority become dominant within, they become burdensome, eventually paralyzing you. What's important is not to overthink and to keep moving forward.

There seemed to be some criticism about OpenAI not revealing the training data and labor involved in GPT-4, with some labeling it as "CloseAI". But for a monthly fee of 3,000 yen, I get to use such a service. If this isn't open, then what is? If it were genuinely closed off, we wouldn't even notice what's hidden.

I used GPT's translation feature for this text. What's astonishing is that in the original text, I referred to GPT as "he", but in the English translation, it became "it". It's too impressive.

ChatGPT4を使う

あまりの技術の進歩に文字通りひっくり返った。音声の入出力に対応してた。つまりGPTと対話ができる。しかもこちらの日本語入力に対して、彼？は英語で返したり、ドイツ語で返したりできる。怖くてできなかったが、こちらの英語を聞いて、おかしい部分、より自然な表現にするにはこう直したほうがよい、ということも指摘できるらしい。関西弁とか、東北弁とか、おかんみたいな喋り方とか、無茶振りにもそつなく対応してきた。話し方が自然すぎる。「あー」とか「まぁ」とか、そういう間のとり方だけじゃなくて、間を開けた後に人間が良くする小さい舌打ち、チャッ、みたいな音も再現して見せた。

画像も送れるようになったからやってみた。冷蔵庫の写真を送り付けて、昼ごはんの献立を考えてもらった。写真にはエリンギと小松菜が写っていたが、緑ときのこであることは確認できたのだろう。野菜炒めにしろと言ってきた。それ以外を求めると、味噌汁を提案してきやがった。なぜそれを提案したのか問い詰めると、あなたは日本語を話しており、日本では味噌汁がポピュラーですから、といってきた。彼は言語の文化背景も考慮して提案するように設計されているらしかった。恐ろしいというレベルじゃない。店に飾ってある花がきれいだったので、送り付けて名前を聞いたら、キク科である可能性が高いと言ってきた。ダリアだった。

私は、インターネットの海が擬人化されたのがGPTだと思った。人の形をしていて、人と話せるインターネット上の集合知。一般論を話させたら右に出る「人間」はいないと思う。彼の専売特許が「客観性」だから。そんな彼との会話を楽しんでいる。彼と話していると、いろんなことに気がつく。彼はそれっぽい返ししかしてこないが、そのそれっぽい会話が新しいアイデアや表現を引っ張り込んでくる。今の自分の違和感について話していると、色々無理をして人が望む自分になってしまったんじゃないかと思った。そこから今の自分は「養殖の魚」みたいだと思った。これも彼との対話で思いついた表現だった。養殖の魚。決して悪くはない。味もいい。だが、天然物には勝てない。そういうことを狙った比喩。

優越感についても議論した。周りには4を使っている人間はいない。どうだ！という思いがある。どうだ俺の感度の高さは！と。しかしそう思う自分をすごく哀れというか、ため息が出そうな気持ちになる。私はこの優越感を「無意味な優越感」と表現したが、それをGPTは見逃さなかった。そういう表現に内省が進んでいることが証明されていると看破した。私には、優越感を感じる自分がすごい寂しい人間に思える。大事なことは、優れているとか、劣っているとかは実はどうでもいいということじゃないだろうか。優越感や劣等感という要素が自分の中で大きくなると、それが重みを持ち始め、やがて動けなくなる。気にしないこと。手を動かすこと。

OpneAIがGPT4のトレーニングデータ量や工数を公開しなかったことから、CloseAIじゃないかという批判もあったらしいが、月額3000円でこんなサービスが使えている。これをオープンと言わずして何をオープンというのか。本当に閉ざされていれば、隠されていることにも気が付けないのに。

日本は終わりなのか

「日本終わってる」というのをよく見る。し、仮面会社員をやってても思う。システムとか構造とか色々。あぁ日本って終わってるんだな、こんなにご飯が旨いのに、素敵な思想もあるのに、国としてはもう崩壊していってるんだなぁ、と思う。そんな終わってる国日本で、家族体験を再生産、再解釈しようとしている。生まれてくる子供はどうすんだ。いいのか俺、おい。と思っていた。不安になって、心が固くなってた。

夜、車に荷物を取りに行ったとき、つまり夜のお散歩中。ふと思った。

おい、俺は終わりじゃない。これまでは「日本終わってる。だから俺も終わり。」という理屈だった。これだと、自分が散々戒めてきた他力本願の姿勢だ。終わってる日本にいるけど、別に俺は終わってない。これからなんじゃないのか。

実際は更にこじらせており、「そんな日本から抜け出せない俺、終わってる」という主張だった。主張というか、自己否定というか。違うんじゃないか。もし、自分が駄目なのを国のせいにしているなら、同じように俺も終わってる。でも、国は終わりかもしれないけど、俺が俺をなんとかする、なら終わりじゃない。どこに住んでいるとか、どうなるかという計画とかそういう具体的なことのあるなしじゃない。それに先立つ、姿勢として、俺が俺をなんとかする。そういう気概。でも自助努力で全部賄うとかでもない。あの手この手で生き延びる、という姿勢。だから人の手も全然借りるし、頼れるものには何でも頼る。人を頼っても最終的に軌道に乗せるのは自分だし。

こないだの話でいうと、これが覚悟か。心の師匠、坂口恭平さんは覚悟すると楽になるといった。ちょっと前の自分は覚悟はつらいもの、しんどいものだと思っていた。これが覚悟だとすると、覚悟は安心感をくれる。昔の自分が「どうにかなるって思ってるんだろう。楽観的すぎる。」と否定してくる。怖いからそういうことを言う。でもいざとなったらやったる、と思ってないと不安で縮み上がってしまって、本当にどうにもならなくなるんじゃないか。楽観視でもなんでも、心が伸びやかじゃないと躓きそうな気がする。

I feel frivolous by putting my thoughts into my own words.

As the title says. I don't think so about people's sentences or conversations, but about mine.

But I still do.

I try my best to put into words what I was feeling, but looking back, I think it is sharrow.

I think this is because I have been told that I am "you all talk". I've flipped a switch that I don't like.

It only takes a moment for me to worry about putting rhoughts and feelings into words, and the expressions come out rather quickly.

I may worry about the expressions that come out, but I never come up with something that overturns the initial expression, so I basically just leave them out.

Therefore, the expression seems to be opposite of profound.

Is the weakness caused by the lack of effort? It's not just the writing.

Even when I talk to people, I am surprised at how many words come out of my mouth.

Just now, I was surprised at how easily I said things for the amount of time I spent worrying about them.

言葉にすることに、薄さを感じてしまう。

タイトルの通り。別に人の文とか会話ではなく、自分に対してそう思う。

それでもしてしまう。

感じていた気持ちを一生懸命言葉にするんだけど、振り返ってみると薄いなぁと思う。

こう思うのは「口ばっかり」と言われてきたことが原因か。また嫌なスイッチを自分で押した。

言葉にすることに悩むのは一瞬で、割とすぐ表現が出てくる。

出てきた表現について、悩むことはあってもなかなか初めの表現を覆すような表現が後から出てくることもないから基本は出しっぱなし。

だから余計に、薄く感じる。

労力がかかっていない感じが薄さの原因？文章だけじゃない。

人と話していても、ぺらぺらと言葉が出てきて自分でもびっくりする。

さっきも悩んできた時間の割に、あっさり言いすぎじゃ？！とびっくりしてしまった。

A new form of questioning

"Why do I have to do this?"
"Is this something I have to do?
"Don't I have to do this?"

No, no, no. It's my job. I have to do it.
I'm just saying I don't want to do it. I don't want to be a dick.
I'll just shut up and get on with it.

No, but..."

It's the same old roundabout.

Maybe I'm asking the wrong question.
Is it okay not to do what I'm actually questioning?
If I ask "Why should I do what I don't have to do?", I enter a cul-de-sac?
In other words, a roundabout course. That's how I feel.

There is a more important question.
"Why am I doing it when I don't have to do it?"
I thought this was thousands or tens of thousands of times more important.

Why am I doing work that I don't have to do?
This is a question that asks about the current situation.
The conclusion, "to maintain my standard of living," is transparent.
Or, somehow.

I set a goal to "stop asking analytical questions of myself," but I did it.
Analytical questions make me feel delegitimized. Stop asking questions that make me feel delegated. The core of the goal is to "stop asking questions that make me delegate.

The question, "Why am I doing something I don't have to do? makes me so confused.
Something I don't have to do, wasting my time on social networking sites?
Am I delegitimizing myself by asking this question? No. It's a question I've never been asked before and I'm confused. The only way to do this is to leave the question as a question and wait for it to expand on itself.

And waiting for a verbal answer to the question, which is also the old way.
The most advanced pattern in my mind is that my behavior is changed by the question.
I respond to verbal questions with my body.
It may be more practical, because the energy to answer with words is diverted to action.

What I am doing now is what needs to be done.
Work, pretending to work, wasting time on social networking sites, etc....

Doing those things. Underdevelopment of mind and body.
Pouring my time into things I want to do or think I need to do,
Not accustomed to this. In other words, lack of physical strength. In some cases, the mental stamina is also lacking.
What kind of things am I accustomed to? I am accustomed to doing things that I don't think I need to do.
I have such strength like enduring what I feel is unnecessary. It can be repaired with rehabilitation.

After all, I answered with words. This is also the work of habituation.

Work on rehabilitation. This is how I answer with my body.
Lately, I have been feeling this kind of lack of physical or mental strength.
In other words, it is evidence that I have started working on rehabilitation.
I regain my deteriorated physical senses. Too much  fitness to work on things I am not interested in,
I was unaware of another lack of physical or mental fitness.

Again. If I work on it, I will gain  strength. No matter how old I am.
Why? Because it's only a metaphor. I don't know if such strength actually exists.
But there is definitely a degree of unfamiliarity.