// REQUIRES: aarch64-registered-target || arm-registered-target

// RUN:                   %clang_cc1_cg_arm64_neon           -emit-llvm  %s -disable-O0-optnone | opt -S -passes=mem2reg,sroa | FileCheck %s --check-prefixes=ALL,LLVM
// RUN: %if cir-enabled %{%clang_cc1_cg_arm64_neon -fclangir -emit-llvm  %s -disable-O0-optnone | opt -S -passes=mem2reg,sroa | FileCheck %s --check-prefixes=ALL,LLVM %}
// RUN: %if cir-enabled %{%clang_cc1_cg_arm64_neon -fclangir -emit-cir   %s -disable-O0-optnone |                               FileCheck %s --check-prefixes=ALL,CIR %}

//=============================================================================
// NOTES
//
// This file contains tests that were originally located in
//  * clang/test/CodeGen/AArch64/neon-vget.c
//  * clang/test/CodeGen/AArch64/neon-scalar-copy.c
//  * clang/test/CodeGen/AArch64/poly64.c
// The main difference is the use of RUN lines that enable ClangIR lowering;
// therefore only builtins currently supported by ClangIR are tested here.
//=============================================================================

#include <arm_neon.h>

//===------------------------------------------------------===//
// 2.1.9.7 Extract one element from vector
//===------------------------------------------------------===//
// This section covers both vget_lane/vgetq_lane and the scalar
// vdup[b/h/s/d]_(lane|laneq)_* builtins.

// ALL-LABEL: @test_vget_lane_u8(
uint8_t test_vget_lane_u8(uint8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
// LLVM: ret i8 [[VGET_LANE]]
  return vget_lane_u8(a, 7);
}

// ALL-LABEL: @test_vget_lane_u16(
uint16_t test_vget_lane_u16(uint16x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x {{.*}}>

// LLVM-SAME: <4 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <4 x i16> [[A]], i32 3
// LLVM: ret i16 [[VGET_LANE]]
  return vget_lane_u16(a, 3);
}

// ALL-LABEL: @test_vget_lane_u32(
uint32_t test_vget_lane_u32(uint32x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x {{.*}}>

// LLVM-SAME: <2 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <2 x i32> [[A]], i32 1
// LLVM: ret i32 [[VGET_LANE]]
  return vget_lane_u32(a, 1);
}

// ALL-LABEL: @test_vget_lane_s8(
int8_t test_vget_lane_s8(int8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x !s8i>

// LLVM-SAME: <8 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
// LLVM: ret i8 [[VGET_LANE]]
  return vget_lane_s8(a, 7);
}

// ALL-LABEL: @test_vget_lane_s16(
int16_t test_vget_lane_s16(int16x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x !s16i>

// LLVM-SAME: <4 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <4 x i16> [[A]], i32 3
// LLVM: ret i16 [[VGET_LANE]]
  return vget_lane_s16(a, 3);
}

// ALL-LABEL: @test_vget_lane_s32(
int32_t test_vget_lane_s32(int32x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x !s32i>

// LLVM-SAME: <2 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <2 x i32> [[A]], i32 1
// LLVM: ret i32 [[VGET_LANE]]
  return vget_lane_s32(a, 1);
}

// ALL-LABEL: @test_vget_lane_p8(
poly8_t test_vget_lane_p8(poly8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
// LLVM: ret i8 [[VGET_LANE]]
  return vget_lane_p8(a, 7);
}

// ALL-LABEL: @test_vget_lane_p16(
poly16_t test_vget_lane_p16(poly16x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x {{.*}}>

// LLVM-SAME: <4 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <4 x i16> [[A]], i32 3
// LLVM: ret i16 [[VGET_LANE]]
  return vget_lane_p16(a, 3);
}

// ALL-LABEL: @test_vget_lane_mf8(
mfloat8_t test_vget_lane_mf8(mfloat8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i8> [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
  return vget_lane_mf8(a, 7);
}

// ALL-LABEL: @test_vget_lane_f16(
float32_t test_vget_lane_f16(float16x4_t a) {
// CIR: cir.cast bitcast %{{.*}} : !cir.ptr<!cir.vector<4 x !cir.f16>> -> !cir.ptr<!cir.vector<4 x !s16i>>
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x !s16i>
// CIR: cir.cast bitcast %{{.*}} : !cir.ptr<!s16i> -> !cir.ptr<!cir.f16>

// LLVM-SAME: <4 x half> {{.*}} [[A:%.*]])
// LLVM: [[TMP:%.*]] = bitcast <4 x half> [[A]] to <4 x i16>
// LLVM: [[VGET_LANE:%.*]] = extractelement <4 x i16> [[TMP]], i32 1
// LLVM: [[HALF:%.*]] = bitcast i16 [[VGET_LANE]] to half
// LLVM: [[RES:%.*]] = fpext half [[HALF]] to float
// LLVM: ret float [[RES]]
  return vget_lane_f16(a, 1);
}

// ALL-LABEL: @test_vget_lane_f32(
float32_t test_vget_lane_f32(float32x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<2 x !cir.float>

// LLVM-SAME: <2 x float> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <2 x float> [[A]], i32 1
// LLVM: ret float [[VGET_LANE]]
  return vget_lane_f32(a, 1);
}

// ALL-LABEL: @test_vget_lane_f64(
float64_t test_vget_lane_f64(float64x1_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<1 x !cir.double>

// LLVM-SAME: <1 x double> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <1 x double> [[A]], i32 0
// LLVM: ret double [[VGET_LANE]]
  return vget_lane_f64(a, 0);
}

// ALL-LABEL: @test_vgetq_lane_u8(
uint8_t test_vgetq_lane_u8(uint8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x {{.*}}>

// LLVM-SAME: <16 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
// LLVM: ret i8 [[VGETQ_LANE]]
  return vgetq_lane_u8(a, 15);
}

// ALL-LABEL: @test_vgetq_lane_u16(
uint16_t test_vgetq_lane_u16(uint16x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <8 x i16> [[A]], i32 7
// LLVM: ret i16 [[VGETQ_LANE]]
  return vgetq_lane_u16(a, 7);
}

// ALL-LABEL: @test_vgetq_lane_u32(
uint32_t test_vgetq_lane_u32(uint32x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x {{.*}}>

// LLVM-SAME: <4 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <4 x i32> [[A]], i32 3
// LLVM: ret i32 [[VGETQ_LANE]]
  return vgetq_lane_u32(a, 3);
}

// ALL-LABEL: @test_vgetq_lane_s8(
int8_t test_vgetq_lane_s8(int8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x !s8i>

// LLVM-SAME: <16 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
// LLVM: ret i8 [[VGETQ_LANE]]
  return vgetq_lane_s8(a, 15);
}

// ALL-LABEL: @test_vgetq_lane_s16(
int16_t test_vgetq_lane_s16(int16x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x !s16i>

// LLVM-SAME: <8 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <8 x i16> [[A]], i32 7
// LLVM: ret i16 [[VGETQ_LANE]]
  return vgetq_lane_s16(a, 7);
}

// ALL-LABEL: @test_vgetq_lane_s32(
int32_t test_vgetq_lane_s32(int32x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x !s32i>

// LLVM-SAME: <4 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <4 x i32> [[A]], i32 3
// LLVM: ret i32 [[VGETQ_LANE]]
  return vgetq_lane_s32(a, 3);
}

// ALL-LABEL: @test_vgetq_lane_p8(
poly8_t test_vgetq_lane_p8(poly8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x {{.*}}>

// LLVM-SAME: <16 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
// LLVM: ret i8 [[VGETQ_LANE]]
  return vgetq_lane_p8(a, 15);
}

// ALL-LABEL: @test_vgetq_lane_p16(
poly16_t test_vgetq_lane_p16(poly16x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <8 x i16> [[A]], i32 7
// LLVM: ret i16 [[VGETQ_LANE]]
  return vgetq_lane_p16(a, 7);
}

// ALL-LABEL: @test_vgetq_lane_mf8(
mfloat8_t test_vgetq_lane_mf8(mfloat8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x {{.*}}>

// LLVM-SAME: <16 x i8> [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
  return vgetq_lane_mf8(a, 15);
}

// ALL-LABEL: @test_vgetq_lane_f16(
float32_t test_vgetq_lane_f16(float16x8_t a) {
// CIR: cir.cast bitcast %{{.*}} : !cir.ptr<!cir.vector<8 x !cir.f16>> -> !cir.ptr<!cir.vector<8 x !s16i>>
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x !s16i>
// CIR: cir.cast bitcast %{{.*}} : !cir.ptr<!s16i> -> !cir.ptr<!cir.f16>

// LLVM-SAME: <8 x half> {{.*}} [[A:%.*]])
// LLVM: [[TMP:%.*]] = bitcast <8 x half> [[A]] to <8 x i16>
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <8 x i16> [[TMP]], i32 3
// LLVM: [[HALF:%.*]] = bitcast i16 [[VGETQ_LANE]] to half
// LLVM: [[RES:%.*]] = fpext half [[HALF]] to float
// LLVM: ret float [[RES]]
  return vgetq_lane_f16(a, 3);
}

// ALL-LABEL: @test_vgetq_lane_f32(
float32_t test_vgetq_lane_f32(float32x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<4 x !cir.float>

// LLVM-SAME: <4 x float> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <4 x float> [[A]], i32 3
// LLVM: ret float [[VGETQ_LANE]]
  return vgetq_lane_f32(a, 3);
}

// ALL-LABEL: @test_vgetq_lane_f64(
float64_t test_vgetq_lane_f64(float64x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<2 x !cir.double>

// LLVM-SAME: <2 x double> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <2 x double> [[A]], i32 1
// LLVM: ret double [[VGETQ_LANE]]
  return vgetq_lane_f64(a, 1);
}

// ALL-LABEL: @test_vget_lane_s64(
int64_t test_vget_lane_s64(int64x1_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<1 x !s64i>

// LLVM-SAME: <1 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <1 x i64> [[A]], i32 0
// LLVM: ret i64 [[VGET_LANE]]
  return vget_lane_s64(a, 0);
}

// ALL-LABEL: @test_vget_lane_u64(
uint64_t test_vget_lane_u64(uint64x1_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<1 x {{.*}}>

// LLVM-SAME: <1 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <1 x i64> [[A]], i32 0
// LLVM: ret i64 [[VGET_LANE]]
  return vget_lane_u64(a, 0);
}

// ALL-LABEL: @test_vget_lane_p64(
poly64_t test_vget_lane_p64(poly64x1_t v) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<1 x {{.*}}>

// LLVM-SAME: <1 x i64> {{.*}} [[V:%.*]])
// LLVM: [[VGET_LANE:%.*]] = extractelement <1 x i64> [[V]], i32 0
// LLVM: ret i64 [[VGET_LANE]]
  return vget_lane_p64(v, 0);
}

// ALL-LABEL: @test_vgetq_lane_s64(
int64_t test_vgetq_lane_s64(int64x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x !s64i>

// LLVM-SAME: <2 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <2 x i64> [[A]], i32 1
// LLVM: ret i64 [[VGETQ_LANE]]
  return vgetq_lane_s64(a, 1);
}

// ALL-LABEL: @test_vgetq_lane_u64(
uint64_t test_vgetq_lane_u64(uint64x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x {{.*}}>

// LLVM-SAME: <2 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <2 x i64> [[A]], i32 1
// LLVM: ret i64 [[VGETQ_LANE]]
  return vgetq_lane_u64(a, 1);
}

// ALL-LABEL: @test_vgetq_lane_p64(
poly64_t test_vgetq_lane_p64(poly64x2_t v) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x {{.*}}>

// LLVM-SAME: <2 x i64> {{.*}} [[V:%.*]])
// LLVM: [[VGETQ_LANE:%.*]] = extractelement <2 x i64> [[V]], i32 1
// LLVM: ret i64 [[VGETQ_LANE]]
  return vgetq_lane_p64(v, 1);
}

// Scalar vdup lane builtins are modeled as extract-one-element operations too.

// ALL-LABEL: @test_vdups_lane_f32(
float32_t test_vdups_lane_f32(float32x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<2 x !cir.float>

// LLVM-SAME: <2 x float> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <2 x float> [[A]], i32 1
// LLVM: ret float [[VDUP_LANE]]
  return vdups_lane_f32(a, 1);
}

// ALL-LABEL: @test_vdupd_lane_f64(
float64_t test_vdupd_lane_f64(float64x1_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<1 x !cir.double>

// LLVM-SAME: <1 x double> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <1 x double> [[A]], i32 0
// LLVM: ret double [[VDUP_LANE]]
  return vdupd_lane_f64(a, 0);
}

// ALL-LABEL: @test_vdups_laneq_f32(
float32_t test_vdups_laneq_f32(float32x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<4 x !cir.float>

// LLVM-SAME: <4 x float> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <4 x float> [[A]], i32 3
// LLVM: ret float [[VDUPQ_LANE]]
  return vdups_laneq_f32(a, 3);
}

// ALL-LABEL: @test_vdupd_laneq_f64(
float64_t test_vdupd_laneq_f64(float64x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : {{.*}}] : !cir.vector<2 x !cir.double>

// LLVM-SAME: <2 x double> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <2 x double> [[A]], i32 1
// LLVM: ret double [[VDUPQ_LANE]]
  return vdupd_laneq_f64(a, 1);
}

// ALL-LABEL: @test_vdupb_lane_s8(
int8_t test_vdupb_lane_s8(int8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x !s8i>

// LLVM-SAME: <8 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
// LLVM: ret i8 [[VDUP_LANE]]
  return vdupb_lane_s8(a, 7);
}

// ALL-LABEL: @test_vduph_lane_s16(
int16_t test_vduph_lane_s16(int16x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x !s16i>

// LLVM-SAME: <4 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <4 x i16> [[A]], i32 3
// LLVM: ret i16 [[VDUP_LANE]]
  return vduph_lane_s16(a, 3);
}

// ALL-LABEL: @test_vdups_lane_s32(
int32_t test_vdups_lane_s32(int32x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x !s32i>

// LLVM-SAME: <2 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <2 x i32> [[A]], i32 1
// LLVM: ret i32 [[VDUP_LANE]]
  return vdups_lane_s32(a, 1);
}

// ALL-LABEL: @test_vdupd_lane_s64(
int64_t test_vdupd_lane_s64(int64x1_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<1 x !s64i>

// LLVM-SAME: <1 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <1 x i64> [[A]], i32 0
// LLVM: ret i64 [[VDUP_LANE]]
  return vdupd_lane_s64(a, 0);
}

// ALL-LABEL: @test_vdupb_lane_u8(
uint8_t test_vdupb_lane_u8(uint8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
// LLVM: ret i8 [[VDUP_LANE]]
  return vdupb_lane_u8(a, 7);
}

// ALL-LABEL: @test_vduph_lane_u16(
uint16_t test_vduph_lane_u16(uint16x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x {{.*}}>

// LLVM-SAME: <4 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <4 x i16> [[A]], i32 3
// LLVM: ret i16 [[VDUP_LANE]]
  return vduph_lane_u16(a, 3);
}

// ALL-LABEL: @test_vdups_lane_u32(
uint32_t test_vdups_lane_u32(uint32x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x {{.*}}>

// LLVM-SAME: <2 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <2 x i32> [[A]], i32 1
// LLVM: ret i32 [[VDUP_LANE]]
  return vdups_lane_u32(a, 1);
}

// ALL-LABEL: @test_vdupd_lane_u64(
uint64_t test_vdupd_lane_u64(uint64x1_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<1 x {{.*}}>

// LLVM-SAME: <1 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <1 x i64> [[A]], i32 0
// LLVM: ret i64 [[VDUP_LANE]]
  return vdupd_lane_u64(a, 0);
}

// ALL-LABEL: @test_vdupb_laneq_s8(
int8_t test_vdupb_laneq_s8(int8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x !s8i>

// LLVM-SAME: <16 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
// LLVM: ret i8 [[VDUPQ_LANE]]
  return vdupb_laneq_s8(a, 15);
}

// ALL-LABEL: @test_vduph_laneq_s16(
int16_t test_vduph_laneq_s16(int16x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x !s16i>

// LLVM-SAME: <8 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <8 x i16> [[A]], i32 7
// LLVM: ret i16 [[VDUPQ_LANE]]
  return vduph_laneq_s16(a, 7);
}

// ALL-LABEL: @test_vdups_laneq_s32(
int32_t test_vdups_laneq_s32(int32x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x !s32i>

// LLVM-SAME: <4 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <4 x i32> [[A]], i32 3
// LLVM: ret i32 [[VDUPQ_LANE]]
  return vdups_laneq_s32(a, 3);
}

// ALL-LABEL: @test_vdupd_laneq_s64(
int64_t test_vdupd_laneq_s64(int64x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x !s64i>

// LLVM-SAME: <2 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <2 x i64> [[A]], i32 1
// LLVM: ret i64 [[VDUPQ_LANE]]
  return vdupd_laneq_s64(a, 1);
}

// ALL-LABEL: @test_vdupb_laneq_u8(
uint8_t test_vdupb_laneq_u8(uint8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x {{.*}}>

// LLVM-SAME: <16 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
// LLVM: ret i8 [[VDUPQ_LANE]]
  return vdupb_laneq_u8(a, 15);
}

// ALL-LABEL: @test_vduph_laneq_u16(
uint16_t test_vduph_laneq_u16(uint16x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <8 x i16> [[A]], i32 7
// LLVM: ret i16 [[VDUPQ_LANE]]
  return vduph_laneq_u16(a, 7);
}

// ALL-LABEL: @test_vdups_laneq_u32(
uint32_t test_vdups_laneq_u32(uint32x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x {{.*}}>

// LLVM-SAME: <4 x i32> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <4 x i32> [[A]], i32 3
// LLVM: ret i32 [[VDUPQ_LANE]]
  return vdups_laneq_u32(a, 3);
}

// ALL-LABEL: @test_vdupd_laneq_u64(
uint64_t test_vdupd_laneq_u64(uint64x2_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<2 x {{.*}}>

// LLVM-SAME: <2 x i64> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <2 x i64> [[A]], i32 1
// LLVM: ret i64 [[VDUPQ_LANE]]
  return vdupd_laneq_u64(a, 1);
}

// ALL-LABEL: @test_vdupb_lane_p8(
poly8_t test_vdupb_lane_p8(poly8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
// LLVM: ret i8 [[VDUP_LANE]]
  return vdupb_lane_p8(a, 7);
}

// ALL-LABEL: @test_vduph_lane_p16(
poly16_t test_vduph_lane_p16(poly16x4_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<4 x {{.*}}>

// LLVM-SAME: <4 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <4 x i16> [[A]], i32 3
// LLVM: ret i16 [[VDUP_LANE]]
  return vduph_lane_p16(a, 3);
}

// ALL-LABEL: @test_vdupb_lane_mf8(
mfloat8_t test_vdupb_lane_mf8(mfloat8x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i8> [[A:%.*]])
// LLVM: [[VDUP_LANE:%.*]] = extractelement <8 x i8> [[A]], i32 7
  return vdupb_lane_mf8(a, 7);
}

// ALL-LABEL: @test_vdupb_laneq_p8(
poly8_t test_vdupb_laneq_p8(poly8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x {{.*}}>

// LLVM-SAME: <16 x i8> {{.*}}[[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
// LLVM: ret i8 [[VDUPQ_LANE]]
  return vdupb_laneq_p8(a, 15);
}

// ALL-LABEL: @test_vduph_laneq_p16(
poly16_t test_vduph_laneq_p16(poly16x8_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<8 x {{.*}}>

// LLVM-SAME: <8 x i16> {{.*}} [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <8 x i16> [[A]], i32 7
// LLVM: ret i16 [[VDUPQ_LANE]]
  return vduph_laneq_p16(a, 7);
}

// ALL-LABEL: @test_vdupb_laneq_mf8(
mfloat8_t test_vdupb_laneq_mf8(mfloat8x16_t a) {
// CIR: cir.vec.extract %{{.*}}[%{{.*}} : !s32i] : !cir.vector<16 x {{.*}}>

// LLVM-SAME: <16 x i8> [[A:%.*]])
// LLVM: [[VDUPQ_LANE:%.*]] = extractelement <16 x i8> [[A]], i32 15
  return vdupb_laneq_mf8(a, 15);
}