system/shaders/convolution-6x6_d3d.fx

   1 /*
   2  *      Copyright (C) 2005-2015 Team XBMC
   3  *      http://xbmc.org
   4  *
   5  *  This Program is free software; you can redistribute it and/or modify
   6  *  it under the terms of the GNU General Public License as published by
   7  *  the Free Software Foundation; either version 2, or (at your option)
   8  *  any later version.
   9  *
  10  *  This Program is distributed in the hope that it will be useful,
  11  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
  13  *  GNU General Public License for more details.
  14  *
  15  *  You should have received a copy of the GNU General Public License
  16  *  along with XBMC; see the file COPYING.  If not, see
  17  *  <http://www.gnu.org/licenses/>.
  18  *
  19  */
  20
  21 #include "convolution_d3d.fx"
  22 #include "output_d3d.fx"
  23
  24 SamplerState RGBSampler : IMMUTABLE
  25 {
  26   AddressU = CLAMP;
  27   AddressV = CLAMP;
  28   Filter   = MIN_MAG_MIP_POINT;
  29 };
  30
  31 half3 weight(float pos)
  32 {
  33 #ifdef HAS_RGBA
  34   half3 w = g_KernelTexture.Sample(KernelSampler, pos).rgb;
  35 #else
  36   half3 w = g_KernelTexture.Sample(KernelSampler, pos).bgr;
  37 #endif
  38
  39 #ifndef HAS_FLOAT_TEXTURE
  40   w = w * 2.0 - 1.0;
  41 #endif
  42   return w;
  43 }
  44
  45 inline half3 pixel(float xpos, float ypos)
  46 {
  47   return g_Texture.Sample(RGBSampler, float2(xpos, ypos)).rgb;
  48 }
  49
  50 inline half3 getLine(float ypos, float3 xpos1, float3 xpos2, half3 linetaps1, half3 linetaps2)
  51 {
  52   return
  53     pixel(xpos1.r, ypos) * linetaps1.r +
  54     pixel(xpos1.g, ypos) * linetaps2.r +
  55     pixel(xpos1.b, ypos) * linetaps1.g +
  56     pixel(xpos2.r, ypos) * linetaps2.g +
  57     pixel(xpos2.g, ypos) * linetaps1.b +
  58     pixel(xpos2.b, ypos) * linetaps2.b;
  59 }
  60
  61 float4 CONVOLUTION6x6(in float2 TextureUV  : TEXCOORD0) : SV_TARGET
  62 {
  63   float2 f = frac(TextureUV / g_StepXY + 0.5);
  64
  65   half3 linetaps1   = weight((1.0 - f.x) / 2.0);
  66   half3 linetaps2   = weight((1.0 - f.x) / 2.0 + 0.5);
  67   half3 columntaps1 = weight((1.0 - f.y) / 2.0);
  68   half3 columntaps2 = weight((1.0 - f.y) / 2.0 + 0.5);
  69
  70   // kernel generation code made sure taps add up to 1, no need to adjust here.
  71
  72   float2 xystart = (-2.0 - f) * g_StepXY + TextureUV;
  73   float3 xpos1 = xystart.x + g_StepXY.x * float3(0.0, 1.0, 2.0);
  74   float3 xpos2 = xystart.x + g_StepXY.x * float3(3.0, 4.0, 5.0);
  75   float3 ypos1 = xystart.y + g_StepXY.y * float3(0.0, 1.0, 2.0);
  76   float3 ypos2 = xystart.y + g_StepXY.y * float3(3.0, 4.0, 5.0);
  77
  78   float3 rgb =
  79         getLine(ypos1.x, xpos1, xpos2, linetaps1, linetaps2) * columntaps1.r +
  80                 getLine(ypos1.y, xpos1, xpos2, linetaps1, linetaps2) * columntaps2.r +
  81                 getLine(ypos1.z, xpos1, xpos2, linetaps1, linetaps2) * columntaps1.g +
  82                 getLine(ypos2.x, xpos1, xpos2, linetaps1, linetaps2) * columntaps2.g +
  83                 getLine(ypos2.y, xpos1, xpos2, linetaps1, linetaps2) * columntaps1.b +
  84                 getLine(ypos2.z, xpos1, xpos2, linetaps1, linetaps2) * columntaps2.b;
  85
  86   return output(g_colorRange.x + g_colorRange.y * saturate(rgb), TextureUV);
  87 }
  88
  89 technique11 SCALER_T
  90 {
  91   pass P0
  92   {
  93     SetVertexShader( VS_SHADER );
  94     SetPixelShader( CompileShader( ps_4_0_level_9_3, CONVOLUTION6x6() ) );
  95   }
  96 };