Re: 不具合ではなく丸め誤差です

投稿者:たけちゃん 投稿日:2023/04/10(Mon) 14:36:52 No.2274

ご返信ありがとうございます。
不具合ではなかったのですね、マニュアルを見逃しておりました。
お手数おかけしすみませんでした。

詳しく教えていただきありがとうございます。

> こんにちは
>
> > 下記のプログラムで正しく計算されないようです。
> > 計算結果は「0.3」となるはずですが、実際には「0.30000000000000004」と表示されます。
> > 他にも試しましたが、計算結果が「0.3」になる場合に不具合が起こるようです。
>
> こちらは不具合ではなく、浮動小数点型で起こる丸め誤差による現象です。
> https://docs.utopiat.net/rdr/manual/syntax/expr.html#round
>
> 詳しい説明はこちらが参考になるかと思います。
> https://dobon.net/vb/dotnet/beginner/floatingpointerror.html
>
> 0.2+0.1を計算した時に丸め誤差が発生しますので、一度、固定小数型の変数に入れることで正しく計算されます。
> -----------
> 【結果】=2
> 【A:固定小数】=結果/10
> 【B:固定小数】=0.1
> A+Bを報告
> -----------
>
> 参考にしてください。

不具合ではなく丸め誤差です

投稿者:ゆうと 投稿日:2023/04/09(Sun) 02:38:31 No.2273

こんにちは

> 下記のプログラムで正しく計算されないようです。
> 計算結果は「0.3」となるはずですが、実際には「0.30000000000000004」と表示されます。
> 他にも試しましたが、計算結果が「0.3」になる場合に不具合が起こるようです。

こちらは不具合ではなく、浮動小数点型で起こる丸め誤差による現象です。
https://docs.utopiat.net/rdr/manual/syntax/expr.html#round

詳しい説明はこちらが参考になるかと思います。
https://dobon.net/vb/dotnet/beginner/floatingpointerror.html

0.2+0.1を計算した時に丸め誤差が発生しますので、一度、固定小数型の変数に入れることで正しく計算されます。
-----------
【結果】=2
【A:固定小数】=結果/10
【B:固定小数】=0.1
A+Bを報告
-----------

参考にしてください。

JSONを正しく書き出せないことがある

投稿者:onichan 投稿日:2023/04/05(Wed) 23:18:18 No.2272

お世話になっております。

現象1:種類名が「辞書の配列」の配列をJSON形式として書き出した際、その辞書の各内容が文字列に変換されてしまうようです。

ーープログラム例
{{a=1}}をJSON形式として書き出したものを表示 ーー[{"a":1}]のはずだが[{"a":"1"}]になる
{{a={}}}をJSON形式として書き出したものを表示 ーー[{"a":[]}]のはずだが[{"a":"{}"}]になる
{{a=空の辞書}}をJSON形式として書き出したものを表示 ーー[{"a":{}}]のはずだが[{"a":""}]になる

ーープログラム例終わり

ーーーーーーーーーー

現象2:辞書の含まれる値をJSON形式として書き出す際、キーの特殊文字がエスケープされないようです。

ーープログラム例
A={「app"le」=「app"le」}をJSON形式として書き出したもの
Aを表示
AをJSON形式として読み取ったものを表示 ーーエラーになる

ーープログラム例終わり

ーーーーーーーーーー

状況:ユーザーのアップロードした辞書データをJSONファイルに保存するタイプのWebアプリを作っていた際に発覚しました。

プロデルバージョン:1.9.1181
よろしくお願いいたします。

小数を含む計算結果の不具合

投稿者:たけちゃん 投稿日:2023/04/05(Wed) 15:59:45 No.2271

こんにちは、お世話になります。

下記のプログラムで正しく計算されないようです。
計算結果は「0.3」となるはずですが、実際には「0.30000000000000004」と表示されます。他にも試しましたが、計算結果が「0.3」になる場合に不具合が起こるようです。
どうぞよろしくお願い致します。

------プログラム------

結果は 2
結果/10+0.1を報告

◆動作環境情報◆
プロデル 1.8.1164
Windows 10 Pro 64ビット
メモリ:8 GB

Re: 修正確認しました。1.9.1181

投稿者:smorkin 投稿日:2023/03/29(Wed) 09:45:40 No.2270

こんにちは、smorkinです。

ゆうと様、ご対応ありがとうございます。
修正を確認いたしました。
ありがとうございました。

修正しました。1.9.1181

投稿者:ゆうと 投稿日:2023/03/28(Tue) 23:42:05 No.2269

こんにちは ゆうとです。

> テキスト部品の「検索する」手順が機能しないようです。
検索対象を選択できるようにいたしました。
ご指摘ありがとうございます。

修正ありがとうございました

投稿者:ten 投稿日:2023/03/11(Sat) 20:40:14 No.2266

ありがとうございました。
いつも感謝ですm(_ _)m

テキスト部品の「検索する」が機能しない

投稿者:smorkin 投稿日:2023/03/06(Mon) 12:19:38 No.2265

こんにちは、smorkinです。

お世話になります。

テキスト部品の「検索する」手順が機能しないようです。
実行しても、カーソルが全く動きません。
書式付きテキスト、テキスト領域で試してみました。

よろしくお願いいたします。

◆動作環境情報◆
プロデル 1.8.1173
Windows 11 Home 64ビット
メモリ:15.7 GB

修正しました 1.9.1178

投稿者:ゆうと 投稿日:2023/03/02(Thu) 22:15:42 No.2264

こんにちは

再現プログラムありがとうございます。
再現できました。

ご報告ありがとうございます。

修正しました 1.9.1178

投稿者:ゆうと 投稿日:2023/03/02(Thu) 22:08:58 No.2263

こんにちは

事後連絡となりますが 1.9.1178で修正しました。
なお、「起動する」手順に「リンクする」手順の処理が含まれていますので、特別の理由がなければ「リンクする」手順を呼ぶ必要はありません。

ご指摘ありがとうございました。

▲ページの先頭へ

- WebForum -