Project

General

Profile

Actions
Copy link

Bug #3930

closed

Les valeurs des KCOEFF après une sequence de LOAD_KCOEFF ne sont pas correctes.

Added by bruno katra almost 3 years ago. Updated almost 3 years ago.

Status:
Closed
Priority:
High
Assignee:
bruno katra
Category:
-
Target version:
3.3
Start date:
11/02/2022
Due date:
% Done:

0%

Estimated time:
revision:
r0

Description

Test fait en 3.3.0.5 et 3.3.0.4 : les matrices et les tableaux sont énormes, pour plus de visibilité je ne copie/colle pas toutes les valeurs dans l'issue.
Je réduis le test uniquement aux valeurs du BIN16 de F0.

J'ai uploadé les kcoeffs de Thomas pour faire des matrices unitaires, pour (sy_lfr_kcoeff_frequency = 0) qui contient le 'F0 calibration matrix bin 16' cela donnes les valeurs suivantes :

[ 1.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,1.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,1.0,0.0 ,1.0,0.0,0.0,0.0,0.0,0.0,1.0,0.0,1.0,0.0,0.0,0.0,0.0,0.0]
Les valeurs en gras sont les 18 floats de la matrice B pour BIN16 à F0 (9 nombres complexes) que l'on s'attend à retrouver en mémoire et dans le KCOEFF_DUMP

L'upload des KCOEFF se passe bien (tous les acquittements OK) MAIS voici ce que contient la mémoire pour la matrice B pour le BIN16 F0 :

1.0, 1.0, 0.875, 0.765625, 0.669921875, 0.586181640625, 0.512908935546875, 0.4487953186035156, 0.39269590377807617, 0.46860891580581665, 0.41003280878067017, 0.39529386162757874, 0.39178162813186646, 0.3037853538990021, 0.21817202866077423, 0.21827389299869537, 0.2288564145565033, 0.15853223204612732

Ceci est confirmé par le KCOEFF_DUMP :

1.0000000000000000 1.0000000000000000 0.8750000000000000 0.7656250000000000 0.6699218750000000 0.5861816406250000 0.51290893554687
50 0.4487953186035156 0.3926959037780762 0.4686089158058167 0.4100328087806702 0.3952938616275787 0.3917816281318665 0.3037853538
990021 0.2181720286607742 0.2182738929986954 0.2288564145565033 0.1585322320461273

Actions
Copy link

Also available in: Atom PDF