Perhitungan dengan nilai numerik

Dalam AWS Clean Rooms, komputasi mengacu pada operasi matematika biner: penjumlahan, pengurangan, perkalian, dan pembagian. Bagian ini menjelaskan jenis pengembalian yang diharapkan untuk operasi ini, serta rumus spesifik yang diterapkan untuk menentukan presisi dan skala saat tipe data DECIMAL terlibat.

Ketika nilai numerik dihitung selama pemrosesan kueri, Anda mungkin mengalami kasus di mana perhitungan tidak mungkin dan kueri mengembalikan kesalahan luapan numerik. Anda mungkin juga mengalami kasus di mana skala nilai yang dihitung bervariasi atau tidak terduga. Untuk beberapa operasi, Anda dapat menggunakan casting eksplisit (jenis promosi) atau parameter AWS Clean Rooms konfigurasi untuk mengatasi masalah ini.

Untuk informasi tentang hasil perhitungan serupa dengan fungsi SQL, lihat. Fungsi SQL di AWS Clean Rooms

Jenis pengembalian untuk perhitungan

Mengingat kumpulan tipe data numerik yang didukung AWS Clean Rooms, tabel berikut menunjukkan jenis pengembalian yang diharapkan untuk operasi penambahan, pengurangan, perkalian, dan pembagian. Kolom pertama di sisi kiri tabel mewakili operan pertama dalam perhitungan, dan baris atas mewakili operan kedua.

	BERKULIT KECIL	BILANGAN BULAT	BIGINT	DESIMAL	FLOAT4	FLOAT8
BERKULIT KECIL	SMALLINT	INTEGER	BIGINT	DECIMAL	FLOAT8	FLOAT8
BILANGAN BULAT	INTEGER	INTEGER	BIGINT	DECIMAL	FLOAT8	FLOAT8
BIGINT	BIGINT	BIGINT	BIGINT	DECIMAL	FLOAT8	FLOAT8
DESIMAL	DECIMAL	DECIMAL	DECIMAL	DECIMAL	FLOAT8	FLOAT8
FLOAT4	FLOAT8	FLOAT8	FLOAT8	FLOAT8	FLOAT4	FLOAT8
FLOAT8	FLOAT8	FLOAT8	FLOAT8	FLOAT8	FLOAT8	FLOAT8

Presisi dan skala hasil DECIMAL yang dihitung

Tabel berikut merangkum aturan untuk menghitung presisi dan skala yang dihasilkan ketika operasi matematika mengembalikan hasil DECIMAL. Dalam tabel ini, p1 dan s1 mewakili presisi dan skala operan pertama dalam perhitungan dan p2 dan s2 mewakili presisi dan skala operan kedua. (Terlepas dari perhitungan ini, presisi hasil maksimum adalah 38, dan skala hasil maksimum adalah 38.)

Operasi	Ketepatan dan skala hasil
+ atau -	Skala = max(s1,s2) presisi = max(p1-s1,p2-s2)+1+scale
*	Skala = s1+s2 presisi = p1+p2+1
/	Skala = max(4,s1+p2-s2+1) presisi = p1-s1+ s2+scale

Misalnya, kolom PRICEPAID dan KOMISI dalam tabel PENJUALAN keduanya adalah kolom DECIMAL (8,2). Jika Anda membagi PRICEPAID dengan KOMISI (atau sebaliknya), rumusnya diterapkan sebagai berikut:

Precision = 8-2 + 2 + max(4,2+8-2+1)
= 6 + 2 + 9 = 17

Scale = max(4,2+8-2+1) = 9

Result = DECIMAL(17,9)

Perhitungan berikut adalah aturan umum untuk menghitung presisi dan skala yang dihasilkan untuk operasi yang dilakukan pada nilai DECIMAL dengan operator yang ditetapkan seperti UNION, INTERSECT, dan EXCEPT atau fungsi seperti COALESCE dan DECODE:

Scale = max(s1,s2)
Precision = min(max(p1-s1,p2-s2)+scale,19)

Misalnya, tabel DEC1 dengan satu kolom DECIMAL (7,2) digabungkan dengan tabel DEC2 dengan satu kolom DECIMAL (15,3) untuk membuat tabel DEC3. Skema DEC3 menunjukkan bahwa kolom menjadi kolom NUMERIK (15,3).

select * from dec1 union select * from dec2;

Pada contoh di atas, rumus diterapkan sebagai berikut:

Precision = min(max(7-2,15-3) + max(2,3), 19)
= 12 + 3 = 15

Scale = max(2,3) = 3

Result = DECIMAL(15,3)

Catatan tentang operasi divisi

Untuk operasi divisi, divide-by-zero kondisi mengembalikan kesalahan.

Batas skala 100 diterapkan setelah presisi dan skala dihitung. Jika skala hasil yang dihitung lebih besar dari 100, hasil pembagian diskalakan sebagai berikut:

• presisi = precision - (scale - max_scale)

• Skala = max_scale

Jika presisi yang dihitung lebih besar dari presisi maksimum (38), presisi dikurangi menjadi 38, dan skala menjadi hasil dari: max(38 + scale - precision), min(4, 100))

Kondisi luapan

Overflow diperiksa untuk semua perhitungan numerik. Data DESIMAL dengan presisi 19 atau kurang disimpan sebagai bilangan bulat 64-bit. Data DESIMAL dengan presisi yang lebih besar dari 19 disimpan sebagai bilangan bulat 128-bit. Ketepatan maksimum untuk semua nilai DECIMAL adalah 38, dan skala maksimum adalah 37. Kesalahan overflow terjadi ketika nilai melebihi batas ini, yang berlaku untuk set hasil menengah dan akhir:

• Casting eksplisit menghasilkan kesalahan runtime overflow ketika nilai data tertentu tidak sesuai dengan presisi atau skala yang diminta yang ditentukan oleh fungsi cast. Misalnya, Anda tidak dapat mentransmisikan semua nilai dari kolom PRICEPAID di tabel PENJUALAN (kolom DECIMAL (8,2)) dan mengembalikan hasil DECIMAL (7,3):

  select pricepaid::decimal(7,3) from sales;
  ERROR:  Numeric data overflow (result precision)

  Kesalahan ini terjadi karena beberapa nilai yang lebih besar di kolom PRICEPAID tidak dapat dilemparkan.

• Operasi perkalian menghasilkan hasil di mana skala hasil adalah jumlah dari skala masing-masing operan. Jika kedua operan memiliki skala 4, misalnya, skala hasilnya adalah 8, hanya menyisakan 10 digit untuk sisi kiri titik desimal. Oleh karena itu, relatif mudah untuk mengalami kondisi luapan ketika mengalikan dua angka besar yang keduanya memiliki skala signifikan.

Perhitungan numerik dengan tipe INTEGER dan DECIMAL

Ketika salah satu operan dalam perhitungan memiliki tipe data INTEGER dan operan lainnya adalah DECIMAL, operan INTEGER secara implisit dilemparkan sebagai DECIMAL.

• SMALLINT dilemparkan sebagai DECIMAL (5,0)

• INTEGER dilemparkan sebagai DECIMAL (10,0)

• BIGINT berperan sebagai DECIMAL (19,0)

Misalnya, jika Anda mengalikan SALES.COMMISSION, kolom DECIMAL (8,2), dan SALES.QTYSOLD, kolom SMALLINT, perhitungan ini dilemparkan sebagai:

DECIMAL(8,2) * DECIMAL(5,0)